Wikipedia · einfach zusammengefasst · Stand
Deepfake
Deepfakes (englisch Kofferwort aus den Begriffen „Deep Learning“ und „Fake“) sind realistisch wirkende Medieninhalte (Text, Foto, Audio, Video), die durch …
Inhalt6 Abschnitte
Definition und Entwicklung
Deepfakes sind realistisch wirkende Medieninhalte – Texte, Fotos, Audioaufnahmen oder Videos –, die mithilfe künstlicher Intelligenz (KI; englisch AI) erzeugt oder verändert wurden. Der Begriff ist ein Kofferwort aus „Deep Learning“ und „Fake“. Beim Deep Learning lernen künstliche neuronale Netzwerke aus vielen Beispielen, bestimmte Bild-, Ton- oder Bewegungsmuster nachzuahmen. Dadurch können Fälschungen weitgehend autonom und mit großer Detailtreue entstehen.
Die Verordnung über künstliche Intelligenz definiert Deepfakes als „einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde“. Seit dem 2. August 2026 gilt für bestimmte Deepfakes eine Kennzeichnungspflicht.
Der Begriff wurde erstmals 2017 verwendet. 2017 und 2018 bezeichnete er vor allem Inhalte, die ausdrücklich durch Deepfake-KI erzeugt worden waren. Seit 2022 wird er teilweise weiter gefasst und auch für Bilder oder Filme verwendet, die offensichtlich oder vermutlich durch irgendeine KI verfälscht wurden. Medienmanipulation selbst ist allerdings älter; neu ist vor allem die automatisierte Herstellung besonders realistischer Fälschungen.
Die häufigste Anwendung ist das Face-Swapping: In einem Foto oder Video wird das Gesicht einer Person durch das Gesicht einer anderen ersetzt, sodass diese scheinbar in einem fremden Zusammenhang auftritt. Darüber hinaus gibt es Voice-Swapping, also die Ersetzung oder Nachahmung einer Stimme, und Body-Puppetry, die Übertragung von Körperbewegungen auf eine andere Person in einem Video. Seit dem Auftreten des Begriffs haben Deepfakes eine breite Debatte über Gefahren für Politik, Wirtschaft und Gesellschaft ausgelöst. Politik und Industrie arbeiten deshalb an Erkennung, Einschränkung und möglicher Bestrafung unerlaubter Herstellung.
Politische Anwendung
Deepfakes können Politiker mit verändertem Gesicht oder veränderter Stimme in Situationen zeigen, die nie stattgefunden haben. Das MIT Center for Advanced Virtuality erzeugte beispielsweise ein Video, in dem Gesicht und Stimme des früheren US-Präsidenten Richard Nixon nachgebildet wurden. Nixon trägt darin eine Rede über den Tod der Apollo-11-Astronauten vor, die zwar geschrieben, wegen der erfolgreichen Mondlandung aber nie gehalten worden war.
Weitere Beispiele zeigen, wie Gesichter politischer Personen ausgetauscht wurden: Das Gesicht des argentinischen Präsidenten Mauricio Macri wurde durch das von Adolf Hitler ersetzt, das von Angela Merkel durch das von Donald Trump.
Im März 2022 erschien auf einer gehackten ukrainischen Nachrichten-Website ein Video, in dem Wolodymyr Selenskyj ukrainische Soldaten angeblich zur Kapitulation aufforderte. Das Video wurde schnell als Fälschung erkannt. Facebook stufte es als Deepfake ein und entfernte es, wobei unbekannt ist, ob tatsächlich Deepfake-Technologie verwendet wurde.
Im Juni 2022 führten mehrere Politiker vermeintliche Videokonferenzen mit dem Kiewer Bürgermeister Vitali Klitschko. Betroffen waren unter anderem Ylva Johansson, Franziska Giffey, José Luis Martínez-Almeida, Gergely Karácsony, Rafał Trzaskowski und Michael Ludwig. Die ersten beiden Bürgermeister brachen die Gespräche vorzeitig ab. Das russische Duo Vovan und Lexus bekannte sich später dazu, bestritt aber sowohl den Einsatz von Deepfake-Technologie als auch eine politische Motivation. Es wird daher angenommen, dass ein Shallowfake verwendet wurde. Im Oktober 2022 wurde außerdem berichtet, dass im Zusammenhang mit dem russischen Überfall auf die Ukraine ein gefälschter Videoanruf abgefangen worden sei, bei dem sich die Anrufer als der ukrainische Premierminister Denys Schmyhal ausgegeben hätten.
Kunst, Datenschutz und Forschung
In der Kunst dienen Deepfakes unter anderem der Zuspitzung und der satirischen Auseinandersetzung mit Popkultur. Joseph Ayerle verwendete die Technik im Kurzfilm Un’emozione per sempre 2.0, um eine Zeitreise der Protagonistin Ornella Muti von 1978 nach 2018 darzustellen. Eine KI errechnete den Charakter der älteren Ornella Muti aus Gesichtsdaten der jungen Schauspielerin und Filmszenen mit Kendall Jenner. So entstanden Szenen, die die wirkliche Ornella Muti nie gespielt hatte.
Im April 2018 veröffentlichten Jordan Peele und BuzzFeed ein Video, in dem ein synthetischer Barack Obama vor manipulierten Videos warnte und Donald Trump unter anderem als „kompletten Volltrottel“ bezeichnete. Ein weiteres Beispiel ließ den Schauspieler, der als Kylo Ren aus Star Wars bekannt ist, das Intro der Original-Fernsehserie Star Trek sprechen.
Seit 2018 wird universitär und industriell untersucht, wie künstlich erzeugte Gesichter zum Schutz der Identität eingesetzt werden können. Nach einer natürlichen Entfremdung des Gesichts können im öffentlichen Raum aufgezeichnete Daten weiterhin für Analysen oder maschinelles Lernen genutzt werden, ohne dass dieselben biometrischen Erkennungsrisiken wie bei Originalgesichtern bestehen. Mögliche Einsatzorte sind die Entwicklung autonomer Fahrzeuge und Smart-City-Kameras. Synthetische Gesichter und andere künstliche Merkmale können damit eine Alternative zum Verpixeln oder Weichzeichnen personenbezogener Daten sein.
In Informatik, Mathematik und Kunst werden Algorithmen zur Erzeugung solcher Medien erforscht und entwickelt. Journalisten führten Selbstversuche durch, um die technische Zugänglichkeit von Deepfakes und ihren Einfluss auf die Glaubwürdigkeit von Videobildern zu untersuchen. Microsoft stellte 2020 den Video Authenticator vor, dessen KI Deepfakes und ähnliche Manipulationen erkennen sollte. In der zweiten Hälfte des Jahres 2020 kündigte Microsoft außerdem Arbeiten an einer Software zur Erkennung von Deepfake-Manipulationen an.
Pornografie und verfügbare Software
Der erste besonders bekannte Einsatzbereich war gefälschte Pornografie. Im Herbst 2017 veröffentlichte ein anonymer Reddit-Nutzer unter dem Pseudonym „Deepfakes“ Pornovideos, in die die Gesichter von Schauspielerinnen wie Gal Gadot, Emma Watson, Katy Perry, Taylor Swift und Scarlett Johansson eingesetzt worden waren. Für das Training eines neuronalen Netzes wurden Szenen aus Sexfilmen und Spielfilmen mit der einzufügenden Person verwendet. Die Videos wurden zunächst rasch als Fälschungen erkannt, doch andere Nutzer verbesserten die Methode. Dadurch wurde es zunehmend schwieriger, echte und gefälschte Inhalte zu unterscheiden.
Auf dem Reddit-Subreddit „Deepfakes“ wurden bis zur Sperrung am 7. Februar 2018 von mehr als 50.000 Nutzern entsprechende Videos ausgetauscht. Deepfakes machten auch Rachepornografie ohne Mitwirkung der abgebildeten Person möglich. Pornhub kündigte an, solche Inhalte künftig zu sperren.
Im Juni 2019 erschien für Windows und Linux das Programm DeepNude. Es verwendete neuronale Netzwerke, um Personen auf Bildern scheinbar zu entkleiden. Es gab eine kostenlose und eine kostenpflichtige Version für 50 USD. Die Entwickler entfernten das Programm kurz darauf wieder und erstatteten den Käufern das Geld.
Die Open-Source-Software DeepFaceLab ermöglicht den Austausch von Gesichtern. Im April 2023 veröffentlichte ElevenLabs erstmals eine Version seiner Stimmen-Klon-Software mit deutschen Stimmen. Damit können Stimmen mit geringem Aufwand täuschend echt nachgebildet werden. Im September 2023 wurde außerdem eine Software von Hey Gen Labs genannt, die gesprochenen Text in Videos übersetzt, die Lippenbewegungen anpasst und Gesichter austauscht.
Bereits Ende Januar 2018 war die App FakeApp gestartet. Sie ermöglichte einen einfachen Face-Swap in Videos. Ein künstliches neuronales Netz berechnete mithilfe des Grafikprozessors und drei bis vier Gigabyte Speicher das Fake-Video. Für genaue Ergebnisse benötigte das Programm viel Bildmaterial der einzufügenden Person. Es nutzte Googles KI-Framework TensorFlow. Vor allem Prominente wurden Ziel gefälschter Sexvideos, grundsätzlich konnten aber auch Privatpersonen betroffen sein.
Betrug, Authentizität und medizinische Bilder
Deepfake-Stimmen können für Betrug eingesetzt werden, indem sie die Identität einer vertrauenswürdigen oder weisungsberechtigten Person vortäuschen. 2019 brachte ein solcher Telefonanruf den Geschäftsführer eines britischen Unternehmens dazu, 220.000 Euro auf ein ungarisches Bankkonto zu überweisen. Die Täter hatten die Stimme eines Vorgesetzten imitiert. Künstliche Stimmen können außerdem Voice-ID-Systeme umgehen, bei denen die Stimme als Passwort dient, und so Zugang zu persönlichen Konten ermöglichen. Laut einer Erhebung von 2023 werden Deepfakes zunehmend bei Enkeltrick-Betrügereien verwendet.
Auch Authentifizierungsverfahren, bei denen Kunden ein Video vorlegen müssen, können überwunden werden. Das ist besonders problematisch, weil Videos häufig als Beweis für die Echtheit eines Vorgangs gelten. Im Jahr 2022 wurde in den USA vor Gericht eine mutmaßlich authentische Videoaufnahme angezweifelt. Elon Musks Anwälte behaupteten, ein ihn belastendes Video sei wahrscheinlich ein Deepfake; der Richter akzeptierte diese Argumentation jedoch nicht. Der Informatiker Hao Li warnte, dass die missbräuchliche Nutzung für Fake News eine ernste Gefahr darstellen könne, wenn die Öffentlichkeit die Möglichkeiten der Technik nicht kenne.
Veränderte Röntgenbilder können Versicherungsbetrug, juristische Auseinandersetzungen oder die gezielte Manipulation von Forschungsdaten ermöglichen. In einem Versuch mit 154 Bildern aus verschiedenen Körperregionen erkannten nur 41 % von 17 Radiologen die Fälschungen. Selbst nach einem ausdrücklichen Hinweis blieb jedes vierte Bild unerkannt. Als Schutz werden robuste technische Verfahren wie digitale Signaturen oder unsichtbare Wasserzeichen empfohlen.
Im Vorfeld der Europawahl im April 2024 wurden Beispiele für den propagandistischen Einsatz von KI bekannt. Nach Einschätzung von Experten sind manipulierte Fotos, Audioaufnahmen und Videos besonders in Verbindung mit sozialen Medien eine zunehmende Herausforderung für die Demokratie. Als Gegenmaßnahme werden sogenannte Eigenfaktenchecks empfohlen.
Shallowfakes, Recht und gesellschaftliche Folgen
Shallowfakes oder Cheapfakes sind ebenfalls Fälschungen, werden aber technisch weniger anspruchsvoll und ohne künstliche Intelligenz hergestellt. Dazu gehört etwa, ein Video mit falschen Informationen zu beschriften, es in einen falschen Zusammenhang zu stellen oder mehrere Ausschnitte so zusammenzuschneiden, dass ein anderer Eindruck entsteht. Der Begriff grenzt solche Verfahren von KI-basierten Deepfakes ab.
Gegen die Verbreitung gefälschter Inhalte kann zivil- oder strafrechtlich vorgegangen werden, etwa wegen Verletzung von Persönlichkeitsrechten oder Sexualbeleidigung. Voraussetzung ist jedoch, dass der Täter identifiziert werden kann. Das ist wegen Anonymität, Pseudonymität und des Weiterleitens von Inhalten im Internet nicht immer möglich.
Der KI-Forscher Alex Champandard sieht ein traditionell hohes Vertrauen in Journalismus und Medien als einen Grund für den Erfolg von Deepfakes. Der Google-Ingenieur Ian Goodfellow bezeichnete es als historischen Glücksfall, dass Menschen sich bisher auf Videos als Beweis für Tatsachen verlassen konnten.
Im Mai 2019 entwickelten Forscher des Samsung-Labors in Moskau ein System, das aus einem einzigen Bild ein Fake-Video erzeugen konnte. Aus einem Porträt der Mona Lisa entstanden drei Videos einer sprechenden und sich bewegenden Frau. Die Website notjordanpeterson.com ließ den kanadischen Psychologen Jordan Peterson mithilfe eines Textfelds scheinbar beliebige Sätze sagen. Der Algorithmus erzeugte relativ realistisch klingende Ergebnisse. Nach der Androhung rechtlicher Schritte durch Peterson wurde die Funktion zunächst deaktiviert.
