Die Spur: Deepfake Pornos

Collien Ulmen-Fernandes und Marie Böckling verfolgen die Spur von Deepfakern, die Pornos produzieren und streamen.

Inhaltsangabe zu Die Spur: Deepfake Pornos

Collien Ulmen-Fernandes ist Opfer einer Straftat im Internet geworden und spricht offen darüber. So wie sie werden täglich Frauen, unter Ihnen viele Prominente, für gefakte Porno-Videos mißbraucht. Mit wenigen Klicks werden ihre Gesichter in das Videomaterial kopiert, das dann gestreamt wird. Mit Investigativ-Journalistin Marie Böckling verfolgt sie die Spur der Täter, prüft die Rechtslage und spricht mit weiteren Opfern, Experten und Politikern.

Trailer zu Die Spur: Deepfake Pornos


Copyright: ZDF/Tower Productions

Details zu Die Spur: Deepfake Pornos

Titel: Die Spur: Deepfake Pornos
FSK: k.A.
Subgenre: Serie
Genre: Dokumentation
Regie: Collien Ulmen-Fernandes, Marie Bröckling, Birgit Tanner
Darsteller:
Spielzeit: 45 Minuten
Start: ab Mittwoch, 11. Dezember 2024, 10.00 Uhr
Wo: ZDF Mediathek
Produktionsland: Deutschland
Jahr: 2024

Auch im TV: Mittwoch, 11. Dezember 2024, 22.15 Uhr und 1.00 Uhr im ZDF

Ein dunkles Kapitel des digitalen Zeitalters

Die investigative Dokumentation beleuchtet ein dunkles Kapitel des digitalen Zeitalters: den Missbrauch von Frauen durch KI-generierte Deepfake-Pornos. Collien Ulmen-Fernandes, selbst Opfer solcher digitaler Übergriffe, zeigt den Mut, sich öffentlich gegen diese Art von Missbrauch auszusprechen und den Tätern auf die Spur zu kommen. Gemeinsam mit der Journalistin Marie Bröckling wirft sie ein Licht auf die anonymen Netzwerke, die hinter diesem Phänomen stecken, und auf die Herausforderungen, mit denen Betroffene und Ermittler konfrontiert sind.

Prominente Opfer & die Motive der Täter

Die Dokumentation erzählt sowohl von Colliens persönlicher Auseinandersetzung mit ihrem eigenen Fall als auch von weiteren prominenten Frauen, die betroffen sind. Moderatorinnen wie Mareile Höppner und Lola Weippert wagen erstmals den Schritt, Anzeige zu erstatten. Parallel dazu unternimmt Marie Bröckling eine tiefgreifende Recherche: Sie spricht mit Opfern, konfrontiert Täter und fragt nach, wie Gesellschaft, Politik und Justiz auf diese neue Form des digitalen Missbrauchs reagieren.

Besonders brisant: Bröckling gelingt es, Kontakt zu einem der Deepfaker aufzunehmen. Dadurch erhält die Doku Einblicke in die Mechanismen hinter den Kulissen – von den Motiven der Täter bis hin zu den finanziellen Strukturen, die hinter der Produktion und Verbreitung solcher Inhalte stehen.

Die Doku stellt nicht nur die Frage nach der Verantwortung der Täter, sondern auch die nach der der Gesellschaft: Wie schützen wir Frauen vor digitalem Missbrauch? Welche rechtlichen und technologischen Maßnahmen sind notwendig? Und wie können Betroffene ermutigt werden, sich zu wehren, ohne Scham oder Angst vor weiteren Angriffen?

Mit diesem mutigen Projekt setzen Collien Ulmen-Fernandes und Marie Bröckling ein Zeichen gegen digitale Gewalt und für die Rechte und Würde von Frauen im Netz.

Fragen an Collien Ulmen-Fernandes

Sie waren selbst betroffen von pornografischen Deepfakes. Wann war das? Und wie sind sie darauf aufmerksam geworden?

Seitdem ich in dieser Branche bin, gibt es Fake-Pornografie von Prominenten. Dass es sich um Fälschungen handelt, war früher jedoch offensichtlich. Die Videos ruckelten, der Kopf wirkte klar auf den Körper montiert. Doch die Technik hat sich rasant weiter entwickelt. Zudem sind mittlerweile so genannte Face Swap Apps, mit denen jeder aus einem Klassenfoto einen Hardcore-Porno bauen kann, frei zugänglich. In Deutschland gibt es keine Sperre für das Erstellen von pornografischen Deepfake-Inhalten. Darin liegt eine große Gefahr. Es passiert nicht selten, dass Frauen mit gefälschtem Nacktmaterial erpresst werden.

Was hat das bei Ihnen ausgelöst und was haben Sie dagegen unternommen?

Es fühlt sich an, als hätte einem jemand unfreiwillig die Kleider vom Leib gerissen. Aber noch schlimmer finde ich, wenn es Frauen und Mädchen betrifft, die nicht in der Öffentlichkeit stehen, bei denen pornografisches Material in Schul- und Arbeitschats herum geht. Die Opfer bekommen davon meist als Letzte mit. Hinter vorgehaltener Hand wird über die vermeintliche Porno-Vergangenheit der Arbeitskollegin getuschelt. Das Material ist mittlerweile von echten Videos nicht mehr zu unterscheiden. So etwas kann schwere traumatische Folgen haben. Mir ist daher wichtig, auf dieses Problem aufmerksam zu machen.

Haben Ihnen diese Porno-Fakes privat oder beruflich irgendwie geschadet?

Es gibt auf einer Social-Media-Plattform ein Fake-Profil von mir. Meine beruflichen Kontakte sind mit dem Fake-Profil vernetzt, während mein echtes Profil nicht aufgerufen wird, weil es für Fake gehalten wird. Und dieses Fake-Profil tauscht sich mit meinen beruflichen Kontakten aus. Dabei scheint es so zu sein, dass nach anfänglich harmlosen Nachrichten irgendwann flirtive und explizite kommen, dann Nackt-Bilder. Natürlich kann das massiv rufschädigend sein. Ich bin froh, dass ich von einem Produzenten davon erfahren habe. Es war ihm sichtlich unangenehm das anzusprechen, es könnte ja sein, dass das tatsächlich ich war. Natürlich kann das dazu führen, dass Leute denken, sie wollen lieber nicht mit mir arbeiten.

Wie gehen Sie jetzt mit dem Thema um?

Ich habe mich zuletzt intensiv mit der deutschen Gesetzeslage befasst. Leider weist das deutsche Gesetz diesbezüglich massive Schutzlücken auf. Opfer werden derzeit nicht ausreichend geschützt! Eine unserer Interviewpartnerinnen, eine Anwältin, die Opfer von Deepnudes betreut, sagte, dass es bei ihren Fällen noch nicht ein einziges Mal zu einer Verurteilung des Täters kam.
Diese Deepnudes geben Menschen unfreiwillig sexualbezogen wieder. Das ist ein massiver Eingriff in die Intimsphäre. Aber derzeit fehlt es an einem Verbot neutrales Bildmaterial für die Herstellung eines Deepfakes zu manipulieren. In der Dokumentation befassen wir uns daher auch mit dem juristischen Aspekt.

Wie versuchen Sie sich zu schützen?

In der Dokumentation testen wir unter anderem verschiedene technische Schutz-Möglichkeiten, zum Beispiel Wasserzeichen oder andere Methoden, mit denen man sein Bildmaterial “vergiften” kann. Benutzt man es, soll es eine spätere Bearbeitung unmöglich machen. Wir schauen, ob das tatsächlich funktioniert.

Die Fragen stellte Birgit-Nicole Krebs (c) ZDF

Bilder zu Die Spur: Deepfake Pornos

  • Die Spur: Deepfake Pornos
  • Bilder Die Spur: Deepfake Pornos
  • Bilder Die Spur: Deepfake Pornos
  • Bilder Die Spur: Deepfake Pornos
  • Bilder Die Spur: Deepfake Pornos
  • Bilder Die Spur: Deepfake Pornos
  • Bilder Die Spur: Deepfake Pornos
  • Bilder Die Spur: Deepfake Pornos
  • Bilder Die Spur: Deepfake Pornos

Copyright: ZDF/Tower Productions