Deepfakes: Sexueller Missbrauch durch KI | Mit offenen Daten | ARTE

Pornografische Deepfakes zählen zu den widerwärtigsten Seiten der KI. Fotos und Videos von realen Frauen werden ohne deren Einwilligung manipuliert und auf Social Media geteilt. „Mit offenen Daten“ geht den illegalen Machenschaften im Netz auf die Spur. Echt oder falsch? Deepfakes fluten die sozialen Netzwerke und verwischen die Grenze zwischen Realität und Illusion. Manche von ihnen sind harmlos und witzig, andere hingegen widerwärtig. Die Rede ist von pornografischen Deepfakes: Fotos und Videos realer Frauen, die mittels KI manipuliert und ohne Einwilligung der Opfer illegal verbreitet werden. Mitten in unseren Recherchen zum Thema wurde Deutschland im März 2026 von einem Skandal erschüttert: Die TV-Moderatorin Collien Fernandes erstattete Anzeige gegen den Mann, der zehn Jahre lang gefälschte Sexvideos von ihr verbreitet haben soll. Laut Fernandes handelt es sich dabei um ihren Ex-Mann, der die Vorwürfe bestreitet. Wir nahmen Kontakt mit Fernandes auf. Ihr prominenter Fall rückt ein Phänomen ins öffentliche Bewusstsein, das Tausende von Frauen weltweit betrifft. Monatelang infiltrierten unsere Journalisten Telegram-Gruppen, in denen Männer gefakte Pornos von Influencerinnen, Schauspielerinnen, Sängerinnen, aber auch von Frauen aus ihrem Umfeld oder gar aus der eigenen Familie austauschen. Eine finstere Parallelwelt, in der der weibliche Körper zur Ware degradiert wird. Unsere Recherche zeigt auch die wirtschaftlichen Nutznießer dieser Deepfakes, also die Tech-Unternehmen, die daraus Profit schlagen. Spezialisierte Websites, sogenannte Nudifier, bieten gegen ein Abonnement an, Frauen virtuell zu entkleiden. Andere machen es möglich, anhand echter Fotos sexualisierte Klone zu erstellen. Über diverse Plattformen lassen sich die illegalen Inhalte zu Geld machen, ohne dass die Moderatoren etwas dagegen unternehmen. Und all das geschieht meist ohne das Wissen und immer ohne die Zustimmung der Frauen. Unsere neue Ausgabe deckt zudem auf, wie klassische Websites zur KI-Bildgenerierung für Porno-Deepfakes missbraucht werden. Manche Plattformen, die auf den ersten Blick harmlos erscheinen, werden von böswilligen Nutzern in regelrechte Deepfake-Fabriken verwandelt. Die KI-Manipulationen werden anschließend endlos auf Social Media geteilt. Möchten Sie uns Informationen, eine Quelle, ein Dokument zukommen lassen? Schreiben Sie uns über unseren verschlüsselten Messenger: [email protected] Chefredakteur: Sylvain Pak Stellvertretende Chefredakteurin: Claire Tesson #missbrauch #ki #deepfake Video verfügbar bis zum 12/07/2029 Link zur Mediathek: https://www.arte.tv/de/videos/126181-009-A/mit-offenen-daten/ Abonniert den Youtube-Kanal von ARTE: http://www.youtube.com/user/ARTEde Folgt uns in den sozialen Netzwerken: Facebook: http://www.facebook.com/ARTE.tv Twitter: https://twitter.com/ARTEde Instagram: https://www.instagram.com/arte.tv/