Alptraum Deepfake-Pornos | ARTEAlptraum Deepfake-Pornos | ARTE

[Anne-Mette]

Eine junge Frau findet heraus, dass von ihr auf Pornoseiten Deepfakes kursieren. Mittels einer KI wurde ihr Gesicht auf Pornovideos kopiert — mit Klarnamen und Adresse. Die junge Frau macht sich auf die Suche nach dem Urheber dieser Videos, sie trifft dabei auf andere junge Frauen, die dasselbe erlebt haben, und erfährt, wie leicht es ist, mit KI solche Fakes zu produzieren.

https://www.arte.tv/de/videos/119514-00 ... ke-pornos/

[Marcella67]

Dies ist leider ein großes Problem unserer digitalen Welt. Die KI wird noch viel verändern, einiges zum Positiven aber auch viel zum Negativen. Je mehr wir uns im Internet preisgeben, um so mehr kann auch gegen uns verwendet werden. Ich stelle mir halt immer wieder die Frage, wie kommen die Faker an die Bilder mit denen Sie weiter arbeiten. Dann denke ich immer wieder an Whats'App, TikTok, X, etc. und sehe die junge Generation die oft nicht darüber nachdenkt, was Sie gerade über sich preis gibt.
Wir werden ja eh immer mehr zu den gläsernen Menschen. Die junge Generation beschleunigt das ja zum großen Teil auch noch.

LG Marcella

[Lana]

Man könnte den Spieß auch umdrehen und einfach alles erstmal als Fälschung ansehen.

Ähnlich wie bei der Unschuldsvermutung im Strafrecht (wo bewiesen werden muss, dass jemand schuldig ist und bis dahin als unschuldig gilt), könnte man hier einen Nachweis einfordern, dass es sich nicht um eine Fälschung handelt. Wird der nicht geliefert, braucht man die Inhalte nicht ernst zu nehmen.

So könnte man wesentlich entspannter mit solchen Sachen umgehen...

LGL

[Liv]

.. könnte man hier einen Nachweis einfordern, dass es sich nicht um eine Fälschung handelt.

Das ist leider schon von der Theorie her eine Illusion. Ein Kunstsachverständiger wir auch nie beweisen können, dass es ein Original ist, sondern nur eine Fälschung mit großer Sicherheit ausschliessen. Selbst wenn ein Zertifikat und beglaubigte Unterschrift des Künstlers dabei sind, es kann alles auch gefälscht sein. Und die KIs sind mittlerweile sehr gut, wenn man etwas Geld in Rechenpower investiert.
Klar kann man jetzt mit NFTs kommen, aber auch die authentifizieren nur das Kunstwerk durch ihren Künstler, nicht die abgebildete "Muse" bzw. deren Einwilligung.

So könnte man wesentlich entspannter mit solchen Sachen umgehen...

Ich glaube, dem Betrachter wird es egal sein ob Fake oder nicht. Aber als Betroffene... wenn dein Kopf in so einem Filmchen auftaucht, ist es glaube ich mit der Entspannung eh vorbei, egal wie offensichtlich schlecht die Fälschung ist.

... und sehe die junge Generation die oft nicht darüber nachdenkt, was Sie gerade über sich preis gibt.

Ich versuche schon seit Jahren meine Kids zu sensibilisieren, aber mit mäßigem Erfolg. Es gehört leider zum Lebensgefühl, alles (!) mit jedem (!!) zu teilen. Da schaudert es mich manchmal sehr.
Solche Dokus regen da mal kurzfristig zum Nachdenken an, aber die werden dann als bedauernswerte Einzefälle abgetan... wird mir schon nicht passieren.

LG
Liv

[Martina-NB]

sehe die junge Generation die oft nicht darüber nachdenkt, was Sie gerade über sich preis gibt.

Nun ja....
Es bleibt natürlich jedem selbst überlassen, wie weit man sich einschränkt aus Angst vor kriminellen Elementen.

[Lana]

Ein Kunstsachverständiger wir auch nie beweisen können, dass es ein Original ist, sondern nur eine Fälschung mit großer Sicherheit ausschliessen.

In dem Sinn hatte ich es gemeint. Dass es nie eine absolute Sicherheit geben kann, versteht sich von selbst.

Eine Möglichkeit wäre, die Pornokonsumenten in die Schmuddelecke zu stellen, und nicht die Darsteller. Vergleichbar mit den Bestrebungen, Freiern den Schwarzen Peter zuzuschieben und nicht den Prostituierten. Erfordert aber auch einen gesellschaftlichen Paradigmenwechsel, und wo soll der in dieser Zeit herkommen?

Das Problem als solches bleibt aber:
Bei Bildern längst bekannt (und auch nicht wirklich gelöst) werden Videos in Zukunft keine Glaubwürdigkeit mehr besitzen. Egal, ob es Pornos sind oder irgendwas anderes.

Da kann ich nur hoffen, dass das möglichst Viele bald verstehen.

Ansonsten hilft nur noch, grundsätzlich entspannter mit dem Thema Pornografie umzugehen. Das können oder wollen viele aber nicht.

LGL

[Christiane]

Porno ist eine Seite.
Stellt Euch einfach vor, Ihr werdet wegen Körperverletzung
vorläufig festgenommen, weil Euer Gesicht in einem
Gewaltvideo als Täter, oder Beteiligter auftaucht.
Und, Ihr habt kein Alibi für die Tatzeit (allein Zuhause).
Oder als Ladendieb, oder, oder, oder, ... .
Mir läufts grad kalt den Rücken runter.
Christiane

[missy]

Ich bin zutiefst schockiert.
Was gibt es für einen gequirlten Dreck.
Vielleicht bin ich einfach zu naiv für diese Welt.
missy