Die Spur: Deepfake-Pornos

ZDFmediathek: ab Montag, 9. Dezember 2024, 10.00 Uhr
ZDF: Mittwoch, 11. Dezember 22.15 Uhr und 1.00 Uhr
Die Spur: Deepfake-Pornos
Zweiteilige Dokumentation

22.15 Uhr: Deepfake-Pornos – Auf der Jagd nach den Tätern
01.00 Uhr: Deepfake-Pornos – Das Geschäft mit dem Missbrauch

Mit                                          Marie Bröckling und Collien Ulmen-Fernandes
Autorinnen                              Marie Bröckling, Birgit Tanner
Recherche                               Luisa Ehlers
Kamera                                   Steffen Hammerich, Tom Kreyssig u.a.
Schnitt                                    Carsten Piefke, Oliver Szyza
Produzentin                             Kirstin Benthaus-Gebauer, Tower Productions
Redaktion ZDF                         Ulrike Brödermann, Simone Müller
Leitung der Sendung               Malte Borowiack, Markus Wenniges
Sendelänge                              45 Minuten und 30 Minuten

Es passiert in den Tiefen des Internets und auf privaten Computern, mit ein paar Klicks, Apps und Künstlicher Intelligenz: Frauen werden zu unfreiwilligen Darstellerinnen in Pornos. Die Betroffenen sind Arbeitskolleginnen, die Nachbarin aber vor allem Frauen, die in der Öffentlichkeit stehen. So wie Collien Ulmen-Fernandes. Von der Schauspielerin und Moderatorin sind unzählige pornographische Bilder im Netz zu finden. Material, das sie bloßstellt, sexualisiert, erniedrigt. Es wurde mit Hilfe von KI erstellt: Ihr reales Gesicht auf fremden Körpern. 
So wie ihr geht es unzähligen Frauen, die digital missbraucht werden. Aber die wenigsten wehren sich, weil sie sich schämen, auch weil die Täter anonym und im Geheimen agieren. Wen soll man anzeigen, wenn man keine Idee hat, woher der Angriff kommt? Und wenn sich Frauen dann doch trauen, ihren Fall zur Anzeige zu bringen, passiert häufig: Nichts. Sind Deepfake-Pornos also ein "Trend", den Betroffene einfach aushalten müssen? 

Collien Ulmen-Fernandes ist eine der wenigen Prominenten, die offen über ihre Erfahrungen spricht und sich nicht aus Angst vor neuen digitalen Attacken, den Mund verbietet. Zusammen mit der Investigativ-Journalistin Marie Bröckling begibt sie sich auf die Spur der Täter. Während Collien Ulmen-Fernandes ihren eigenen Fall untersucht und mit Betroffenen spricht, steigt Marie Bröckling tief in die Recherche ein: Wer sind diejenigen, die Deepfake-Pornos herstellen und ins Netz stellen? Warum tun sie das? Wer verdient damit Geld?  Wie gehen wir als Gesellschaft mit digitalem Missbrauch um? Was unternehmen Politik und Justiz, um Frauen zu schützen?
Collien Ulmen-Fernandes überzeugt schließlich die Moderatorinnen Mareile Höppner und Lola Weippert ihre eigenen Fälle bei der Polizei anzuzeigen und Marie Bröckling gelingt es, Kontakt mit einem Deepfaker aufzunehmen. 

Wie echt wirken Deepfake-Pornos?

Lola Weippert, Moderatorin und Betroffene:
"Man sieht teilweise nicht, dass es ein Fake ist, und das macht es so gruselig. Und ich dachte wirklich bei den Sequenzen teilweise: Das ist so schockierend echt!"

Zur Schwere des Delikts:

Christian Schertz, Medienwalt:
"Es ist eine mediale Vergewaltigung. Die Frau wird beim Sex mit einem Mann gezeigt, und es sieht so aus, als wenn das tatsächlich stattgefunden hätte."

Josephine Ballon, Geschäftsführerin von HateAid:
"Virtuelle Gewalt ist reale Gewalt. Das Gehirn kann faktisch nicht unterscheiden, ob es eine Gewalttat im analogen Leben oder im digitalen Raum erlebt hat."

Zur Lage der Betroffenen von Deepfake-Pornos:

Josephine Ballon, Geschäftsführerin von HateAid:
"Wir sehen, dass Frauen natürlich vor allem erst mal geschockt sind, dass sie eigentlich eher vergessen wollen, was im Internet passiert und eigentlich gar nicht hinsehen wollen, aber dass es sie trotzdem enorm einschränkt. Das geht bis hin zu Depressionen, Angstzuständen. Sie haben Angst, das Haus zu verlassen, Angst, auf der Straße erkannt zu werden. Und das hält oft sehr, sehr lange an."

Lola Weippert, Moderatorin und Betroffene:
"Ich schäme mich, wenn ich daran denke, wie viele Menschen das sehen und sich denken: 'Das ist echt', und ich kann nichts dagegen tun."

Shujoka, Gamerin und Betroffene:
"Es gibt einfach nichts, was dich auffängt. Du gehst Anzeige erstatten, dann wirst du nach Hause geschickt. Dann bist du allein damit."

Zum Versagen der Justiz in Sachen Deepfake-Pornos:

Josephine Ballon, Geschäftsführerin von HateAid:
"Man darf damit Geld verdienen, man darf es auch bewerben – zum Beispiel auf Pornoseiten passiert das häufiger: Wie wäre es denn, wenn man sich mal seinen eigenen Porno mit der Arbeitskollegin oder der besten Freundin erstellen kann? Und das sind dann natürlich Dinge, wo wir uns ernsthaft als Gesellschaft fragen müssen, warum wir das zulassen wollen."

Über die derzeitige Rechtslage:

Georg Eisenreich, bayerischer Staatsminister für Justiz:
"Die [Bundes]länder insgesamt haben ja die gleiche Erfahrung und auch die gleiche Einschätzung, dass die neuen technischen Möglichkeiten, Videos und Bilder zu bearbeiten, aber auch zu faken, gewaltig sind. Und dass eben hier Handlungsbedarf besteht, weil die Rechtslage unklar, unübersichtlich ist." (…)
"Gerichte können Taten nur bestrafen, wenn zum Zeitpunkt der Tat auch eine entsprechende Regelung besteht." (…)
"Ich finde, dass wir die Plattformen noch viel, viel stärker in die Verantwortung ziehen müssen."

Über die Täter:

Shujoka, Gamerin und Betroffene:
"Es ist nicht so, dass die Täter (...) komplett isolierte Leute sind, die keine sozialen Kontakte haben, wie man sich das vorstellt. Sondern das sind Menschen, die im Leben stehen, die alle möglichen Berufe (…)ausüben (…)."

Sie waren selbst betroffen von pornografischen Deepfakes. Wann war das? Und wie sind sie darauf aufmerksam geworden?

Seitdem ich in dieser Branche bin, gibt es Fake-Pornografie von Prominenten. Dass es sich um Fälschungen handelt, war früher jedoch offensichtlich. Die Videos ruckelten, der Kopf wirkte klar auf den Körper montiert. Doch die Technik hat sich rasant weiter entwickelt. Zudem sind mittlerweile so genannte Face Swap Apps, mit denen jeder aus einem Klassenfoto einen Hardcore-Porno bauen kann, frei zugänglich. In Deutschland gibt es keine Sperre für das Erstellen von pornografischen Deepfake-Inhalten. Darin liegt eine große Gefahr. Es passiert nicht selten, dass Frauen mit gefälschtem Nacktmaterial erpresst werden.

Was hat das bei Ihnen ausgelöst und was haben Sie dagegen unternommen?

Es fühlt sich an, als hätte einem jemand unfreiwillig die Kleider vom Leib gerissen. Aber noch schlimmer finde ich, wenn es Frauen und Mädchen betrifft, die nicht in der Öffentlichkeit stehen, bei denen pornografisches Material in Schul- und Arbeitschats herum geht. Die Opfer bekommen davon meist als Letzte mit. Hinter vorgehaltener Hand wird über die vermeintliche Porno-Vergangenheit der Arbeitskollegin getuschelt. Das Material ist mittlerweile von echten Videos nicht mehr zu unterscheiden. So etwas kann schwere traumatische Folgen haben. Mir ist daher wichtig, auf dieses Problem aufmerksam zu machen.

Haben Ihnen diese Porno-Fakes privat oder beruflich irgendwie geschadet?

Es gibt auf einer Social-Media-Plattform ein Fake-Profil von mir. Meine beruflichen Kontakte sind mit dem Fake-Profil vernetzt, während mein echtes Profil nicht aufgerufen wird, weil es für Fake gehalten wird. Und dieses Fake-Profil tauscht sich mit meinen beruflichen Kontakten aus. Dabei scheint es so zu sein, dass nach anfänglich harmlosen Nachrichten irgendwann flirtive und explizite kommen, dann Nackt-Bilder. Natürlich kann das massiv rufschädigend sein. Ich bin froh, dass ich von einem Produzenten davon erfahren habe. Es war ihm sichtlich unangenehm das anzusprechen, es könnte ja sein, dass das tatsächlich ich war. Natürlich kann das dazu führen, dass Leute denken, sie wollen lieber nicht mit mir arbeiten.

Wie gehen Sie jetzt mit dem Thema um?

Ich habe mich zuletzt intensiv mit der deutschen Gesetzeslage befasst. Leider weist das deutsche Gesetz diesbezüglich massive Schutzlücken auf. Opfer werden derzeit nicht ausreichend geschützt! Eine unserer Interviewpartnerinnen, eine Anwältin, die Opfer von Deepnudes betreut, sagte, dass es bei ihren Fällen noch nicht ein einziges Mal zu einer Verurteilung des Täters kam.
Diese Deepnudes geben Menschen unfreiwillig sexualbezogen wieder. Das ist ein massiver Eingriff in die Intimsphäre. Aber derzeit fehlt es an einem Verbot neutrales Bildmaterial für die Herstellung eines Deepfakes zu manipulieren. In der Dokumentation befassen wir uns daher auch mit dem juristischen Aspekt.

Wie versuchen Sie sich zu schützen?

In der Dokumentation testen wir unter anderem verschiedene technische Schutz-Möglichkeiten, zum Beispiel Wasserzeichen oder andere Methoden, mit denen man sein Bildmaterial "vergiften" kann. Benutzt man es, soll es eine spätere Bearbeitung unmöglich machen. Wir schauen, ob das tatsächlich funktioniert.

Die Fragen stellte Birgit-Nicole Krebs