Deepfake Selbstexperiment: Wie easy kann ich Fake News mit KI erstellen?
PULS Reportage
https://www.youtube.com/watch?v=FIl5x23SNYs

Transkript (automatisch erstellt)

0:00 Leute fällt euch bei diesem Video hier irgendwas auf das heute journal mit Hanna Zimmermann und Christian siebas
0:08 guten Abend ihnen allen wir schauen in eine Zukunft die längst begonnen hat wir sprechen von einer neuen KI gestützten
0:15 anlageplattform die bereits Millionen von Deutschen Bürgern zur Verfügung steht das Problem ist dieses Video ist
0:21 fake in den vergangenen Monaten sind mehrere solche Videos aufgetaucht wo teilweise Stimme und Gesicht von
0:27 Moderatorinnen missbraucht wurden ich will wissen wie leicht ist es mittlerweile solche Fakes zu erstellen
0:32 mein Ziel ein nachrichtenfake von br24 Moderator Stefan Scheider zugft der Polizei schaffe ich
0:40 es wirklich einen Fake zu basteln der von echten Nachrichten nicht zu unterscheiden ist mal sehen ob das ob
0:46 das gut funktioniert das ist er geil was wir jetzt alles damit anstellen
0:52 könen okay also so in der Qualität habe ich es noch nicht gesehen und ich möchte herausfinden wie man Fakes eigentlich
0:59 erkennt das ist die Fälschung die ich selbst mit der KI gebastelt habe aber irgendwie ja auch schockierend oder
1:07 ja kriege ich es hin ein Fake Video zu erstellen komplett ohne Vorwissen setze mich jetzt hier hin habe ein paar
1:14 Stunden weil ich nämlich gelesen habe mehrfach das soll mittlerweile ganz leicht sein und deswegen fange ich jetzt
1:20 einfach mal an im Internet ein bisschen rum zu suchen und zu gucken ob mir da ein Tool in die Hände fällt mit dem ich
1:28 das zustande bringe vielleicht such mal nach deep Fake erstellen was ich schon mal krass finde
1:37 ist wie viele deep Fake Apps und Tools es gibt wo du tatsächlich recht easy Fakes
1:47 erstellen kannst also ich bin ja komplett überfordert ich weiß ja gar nicht welches Tool ich hier nehmen soll
1:51 so viele gibt's wir zeigen hier übrigens bewusst keine Namen und Logos der Tools denn wir wollen keine Anleitung zum
1:57 Nachbauen liefern wie gefährlich sowas sein kann werde ich später noch erfahren hier z.B heißt es also mit diesem Tool
2:05 können Sie mühelos die Stimme einer Person klonen und dabei deren einzigartigen Akzent und Stil
2:11 beibehalten genau das brauche ich ja zum Testen starte ich mit einem Klon meiner eigenen
2:17 Stimme hallo liebe KI hier ist der my und jetzt bin ich mal gespannt was du kannst ob du in der Lage bist meine
2:24 Stimme zu klonen und jetzt daraus irgendwas zu machen was halbwegs nach mir klingt also wenn ich das jetzt
2:29 richtig anden habe dann kann ich jetzt einen Text eingeben schriftlich und dann kommt der KI min da
2:41 raus ich bin gespannt hallo hier spricht der KI min na Klinge ich wie ich oder eher wie gefälscht eher wie gefälscht
2:50 würde ich sagen also ja okay ging sehr schnell noch nicht maximal beeindruckend aber vielleicht reicht auch das Material
2:58 noch nicht das hat keine 10 Minuten gedauert ich gebe dem Tool noch mehr Stimmproben jetzt hört mal bitte gut zu
3:06 was der KI miny euch zu sagen hat seid ihr schon mal auf Fake naachrichten gestoßen und wenn ja wo schreibt uns das
3:14 doch bitte mal in die Kommentare vielen Dank es geht hier darum eine nachrichtenmoderation von
3:20 einem echten nachrichtenmoderator zu fälschen einer unserer Hauptnachrichten Moderatoren im Fernsehen das ist der
3:26 Stefan Scheider und so hört der sich bei einer echten Nachrichtensendung an wer in
3:33 Deutschland kiffen will muss inzwischen genau hinsehen wo man darf und wo nicht mit einem Triumph endete heute
3:39 Nachmittag das ATP tennisurnier in München von dem gibt's logischerweise sehr viel
3:45 Material lieber Stefan ich werde versuchen dich zu fälschen jetzt hier ich lade mir erstmal
3:51 einen Ausschnitt einer Sendung runter so habe ich direkt eine Audio und videovorlage von ihm das Programm
3:57 imitiert dann die Stimmlage Aussprache und Betonung mit Hilfe von KI das videotool arbeitet mit der
4:03 Lippenbewegung diese wird dann an die Audiodatei angepasst so kann jeder beliebige Satz mit dem passenden
4:08 Gesichtsausdruck und der typischen Sprachmelodie verbunden werden ja und da ziehe ich mir jetzt ein
4:20 mp3 und das lade ich da einfach hoch als erstes will ich die Stimme faken mit dem Tool das ich gerade schon benutzt habe
4:32 liebe Leute ich habe einen guten Tipp für euch lasst unbedingt der pulsreportage ein Abo da vielen Dank und
4:38 guten Abend danke Stefan hey das klang noch gut also ein Tick zu hoch glaube ich noch so von der
4:46 Stimmlage aber aber aber gut geil okay die Stimme könnte noch etwas echter klingen ich kann aber im Tool noch ein
4:55 paar Einstellungen anpassen das geht in der Bezahlversion für knapp se Dollar im Monat lasst unbedingt der pulsreportage
5:05 ein Abo da vielen Dank und guten Abend das ist er was wir jetzt alles damit anstellen
5:14 könen ich bin aber wenn ich jetzt mal kurz drüber nachdenke auch schockiert weil ich habe einfach ein bisschen
5:21 rumgegoogelt und bin jetzt bei irgend so ein Tool gelandet hab damit rumgespielt und nach einer dreiviertel Stunde habe
5:28 ich jetzt quasi sie schon mal die Stimme von dem nachrichtenankker man
5:35 gefälscht ob das beim Video auch so einfach funktioniert tatsächlich werden solche Tools auch benutzt um sie für die
5:43 Verbreitung von Fake News zu missbrauchen genau das ist vor ein paar Monaten mit der Stimme von
5:47 Tagesschausprecherin Susanne Daubner passiert gefächte Audiodateien der Tagesschau im
5:53 Umlauf tagesschaubn ver gefächten Audiodateien Polizei ermittelt wegen gef ST
6:06 tagesschaunachrichten auch andere Tagesschausprecher sind von den sogenannten deep Fakes betroffen auf
6:12 pegida und Querdenker Demonstrationen hier Bilder aus Dresden wurden über Lautsprecher Audios mit der Stimme von
6:18 Jens rieer abgespielt auch die gefälscht wir haben wissentlich die häufig gravierenden und teils tödlichen
6:25 Nebenwirkungen der coronaimpfungen verschwiegen im Fall der gefälschten Audios kündigt die Tagesschau nun
6:30 rechtliche Schritte an der Staatsschutz ermittelt inzwischen wegen Verleumdung und Volksverhetzung die Tagesschau
6:37 bestätigt uns dass immer mehr solcher Fälle auftreten dabei gehhe es nicht nur um Fake Audios sondern auch Videos oder
6:43 komplett nachgebaute Websites okay das Audio habe ich schon aber mein Ziel ist ja ein Video zu erstellen ja jetzt bin
6:52 ich mal in irgend so einer deep Fake Video Plattform hier gibt auf jeden Fall viele Möglichkeiten aha hier kann man
7:01 seinen digitalen Zwilling erstellen dafür muss ich eine Videoaufnahme hochladen aber ich stoße
7:09 schnell auf die erste Hürde das ist jetzt aber gemein jetzt habe ich das hochgeladen und alles toll
7:18 und jetzt will ich meine Fälschung haben und jetzt sagt mir dieses blöde Tool dass ich jetzt hier beweisen muss dass
7:24 ich das bin also mit einem Foto aber ich bin das ja gar nicht a das ist ja also ich meine
7:30 das ist natürlich ist natürlich gut dass die da so eine Sicherheitsschranke einbauen aber das
7:36 ist jetzt natürlich für mich schlecht aber vielleicht gibt es ja eine Möglichkeit das Tool mit alten Videos
7:41 von ihm auszutrixen das ist natürlich eigentlich nicht erlaubt denn von anderen Personen
7:49 darf man ohne deren Zustimmung keine Fakes erstellen und verbreiten denn auch hier gilt ähnlich wie bei echten Fotos
7:55 und Videos das Recht am eigenen Bild und gesprochenen Wort deswegen habe ich mir vor unserem Experiment die Zustimmung
8:02 von Stefan Scheider geholt klappt leider trotzdem nicht oh nein okay dann suche ich jetzt mal ein
8:13 wenig weiter weil in diesem Internet da wird es wahrscheinlich auch irgende eine Software geben ohne diesen Sicherheits
8:22 schnickichnacki das nächste Tool hat überhaupt keine Sicherheitsschranken ich kann einfach einen echten Clip von
8:27 Stefan Scheider hochladen dann bra ich noch das passende Audio ob das klappt okay also ich habe die gute
8:36 gefakete Stefan Scheider Stimme vom anderen Tool jetzt hier importiert und mal sehen ob das ob das gut
8:44 funktioniert das ist ein Test ob dieses Tool aus mir dem echten Stefan Scheider einen Fake Stefan Scheider machen
8:52 kann kann es kann es das ist richtig geil hier zum Vergleich noch mal das Original das ich hochgeladen habeang
9:03 stand da blüht heute eine fruchtbare Nachbarschaft und zwar zwischen Bayern und Tschechien und hier der Fake das ist
9:10 ein Test ob dieses Tool aus mir dem echten Stefan Scheider einen Fake Stefan Scheider machen
9:17 kann a da jetzt macht's mir richtig Spaß das kann ich den ganzen Tag machen wenn man einmal verstanden hat wie die
9:25 Programme funktionieren kriegt man das in wenigen Minuten hin eine Testversion es kostenlos wenn man die Videos ohne
9:31 Wasserzeichen downloaden will kostet das $ im Monat oft werde ich gefragt wie ich mich auf die Sendung vorbereite nun das
9:39 Geheimnis ist kurz vorher gönne ich mir jedes Mal einen abproh spritz ob Stefan Scheider das hier auch
9:47 alles so lustig findet frage ich ihn später ich hätte das nicht gedacht dass das in der Qualität was jetzt hier das
9:56 Bild und vor allem auch die Stimme angeht dass das für mich ohne jegliche Vorbereitung ohne
10:02 irgendwelche it Skills dass das dann alles so funktioniert wir fragen die Anbieter der Tools an wie es sein kann
10:09 dass wir so einfach Fakes von anderen Menschen erstellen können der videotool Anbieter antwortet gar nicht der
10:15 audioool Betreiber schreibt uns sie können keine no Stimmen Klonen die als risikoreich eingestuft werden wir werden
10:24 entsprechende Maßnahmen ergreifen wenn uns Missbrauchsfälle gemeldet oder von uns deckt werden und wir verfügen über
10:31 Mechanismen um Behörden oder relevante Parteien bei der Identifizierung von böswilligen Akteuren zu
10:38 unterstützen mit noo Stimmen meint das Unternehmen aktuell z.B Politiker innen die 2024 in den USA und Großbritannien
10:46 zur Wahl stehen ich will später eines meiner Videos auf der Straße testen erkennen
10:53 die Leute meinen Fake erstmal zeige ich das Video aber jemandem der sich richtig gut mit Fakes auskennt
11:00 wir haben ehrlich gesagt in der Redaktion länger diskutiert ob wir dieses Thema überhaupt machen und dieses
11:05 Experiment weil wir wollen ja nicht selbst Fake News in die Welt setzen und wir wollen auch keine Anleitung liefern
11:10 wie ihr sowas machen könnt aber wir wollen vor allem aufklären weil wir das Thema total wichtig finden deswegen bin
11:15 ich jetzt verabredet mit einem Forscher der zum Thema Fake News forscht der auch an Lösungen arbeitet und der uns allen
11:21 hoffentlich erklärt wie wir künftig deep Fake Videos erkennen können dr Jonas Fegert leitet ein Forschungsprojekt zur
11:29 Bekämpfung von Fake News Jonas ich habe dir was mitgebracht ja und zum Schluss noch eine gute
11:36 Nachricht zumindest wenn sie Spargel lieben und Allergiker sind eine Studie kam jetzt zu dem Ergebnis grüner Spargel
11:44 hilft gegen Heuschnupfen in diesem Sinne Ihnen einen guten Appetit W ich sagen das ist nicht echt irgendwie
11:53 Schattenwurf und Kopfhaltung aber so sicher bin ich mir nicht nicht also sagst Tendenz Fake aber nicht ganz
12:02 sicher genau ist echt ne könnte es auch echt sein das erste Gefühl ist ja so ein
12:09 bisschen der Content und da muss man ja irgendwie über den Inhalt auch gehen und dann ist so die erste Frage halte ich es
12:16 für plausibel abgesehen jetzt von der Darstellung dass günpig gegen Heuschnupfen hilft und ich glaube so kam
12:23 auch Teile von meinen Zweifeln tatsächlich ist das ein Fake den ich selbst zusammengebastelt habe ich fand
12:31 es jetzt aber spannend dass du als absoluter Experte zwar von der Tendenz her gleich richtig lagst aber dann doch
12:37 etwas ins Zweifel gekommen bist und ich finde dafür dass ihr das jetzt so selbst gemacht hat es ist schon auch
12:43 erstaunlich gut auf was soll ich gucken damit ich damit ich das vielleicht identifiziere als
12:48 Fake ich glaube trotzdem dass mein toptipp ist der eigenen Intuition zu trauen hier ist irgendwas falsch hier
12:56 stimmt irgendwas nicht ein paar typische optische Details fallen auch bei unserem Video
13:02 auf es wird unscharf um die halzpartie sozusagen es gibt ein Unterschied zwischen dem Gesicht und dem halt selber
13:09 gucken noch mal rein oft werde ich gefragt wie ich mich auf die Sendung vorbereite nun das Geheimnis ist kurz
13:15 vorher gönne ich mir jedes Mal einen ab bei diesen deep Fakes da würde ich tatsächlich dann auf solche Sachen
13:23 achten wie passt der Körper zum Gesicht oder gibt gerade in dem Übergang der Halsregion
13:31 Änderung wie sieht's mit dem wie steht's um den Schattenwurf um die Mundpartie wie bewegt sich der Mund ist da
13:36 irgendwas künstlich es gibt schon Sachen auf die man achten kann schaut mal ganz genau auf den Mund da erkennt man dass
13:43 da plötzlich Zähne aufploppen die vorher gar nicht da waren aber die Tools werden gerade immer
13:54 besser aber was in Zukunft sicherlich eben noch besser gehen wird wir werden uns nicht nur auf so kleine technische
14:02 Details verlassen können gerade weil die Tools immer besser werden empfehlen ExpertInnen vor allem drei konkrete
14:08 Maßnahmen gegen Desinformation erstens Medienkompetenz Stärken UserInnen sollten aufgeklärt
14:18 werden wie sie fakeinhalte erkennen und damit umgehen z.B an Schulen oder durch Videos wie dieses hier zweitens KI zur
14:28 Erkennung von Fakes nutzen es wird schon jetzt an Programmen gearbeitet die KI generierte Inhalte erkennen sollen
14:35 bisher sind sie aber noch nicht großflächig im Einsatz drittens Medieninhalte
14:41 verifizieren dazu braucht es journalistische Formate die Inhalte prüfen und klare Regeln auf Social Media
14:49 Plattformen ich sehe schon dass die Plattform da irgendwo auch eine Pflicht haben für Transparenz zu sorgen
14:56 Plattform argumentieren natürlich immer dass sie neutral sind und nicht für den Inhalt einstehen und trotzdem wäre es ja
15:03 an sich von dem Mechanismus her ein leichtes zu sagen wenn man Content hochlädt habe ich hier was künstlich
15:11 verändert oder nicht und das könnte dann etwas sein was auch eingeblendet wird für alle anderen
15:17 nutzenden der Inhalt unseres Videos ist bewusst relativ harmlos gewählt aber theoretisch kann man mit so etwas großen
15:24 Schaden anrichten wenn z.B Menschen auf finanzbetrug reinfallen weil sie denken dass das ZDF die Plattform bewirbt und
15:31 auch Jonas Fegert warnt wie gefährlich kann sowas sein aus deiner Sicht total gefährlich ich glaube es ist sozusagen
15:37 in diesem politischen desinformations Kontext wahnsinnig gefährlich weil das sozusagen unsere
15:43 Demokratien unterhöhen kann da ist es tatsächlich glaube ich auch wichtig dass sozusagen die Plattformbetreiber gucken
15:49 dass solcher Content dann auch gelöscht wird deshalb verbreiten wir unsere Fake Videos nicht ohne Kontext und
15:56 Kennzeichnung wir haben Meta x und titok angefragt wie sie mit Fake News und KI generierten Inhalten umgehen x antwortet
16:04 gar nicht Meta schreibt uns dass auf ihren Plattformen Facebook Instagram und threats viel Information in der
16:11 Verbreitung eingeschränkt werden in den kommenden Monaten sollen außerdem K generierte Inhalte automatisch
16:16 gekennzeichnet werden an so einem Tool arbeitet auch tiktok bereits jetzt können hier
16:23 creatorin selbst angeben wenn Ihre Inhalte KI generiert sind die Plattform verweist außerdem dar dar dass User in
16:29 Fake Inhalte melden können wenn man sie denn erkennt und genau das teste ich gleich noch hier ist das br24
16:37 Nachrichtenstudio hier treffe ich den echten Stefan Scheider und will von ihm wissen ob er auf seine eigenen Fakes
16:43 reinfallen würde moin hi danke dass wir zu Gast sein dürfen und vor allen Dingen danke ich sag's lieber jetzt am Anfang
16:49 dass ich dich faken durfte bin schon gespannt das ist ein Test ob dieses Tool aus mir dem echten Stefan Scheider einen
16:55 Fake Stefan Scheider machen kann okay und kann das Tool ein glaubwürdigen Stefan Scheider machen was sag sehr sehr
17:05 clean muss ich sagen also so in der Qualität habe ich es noch nicht gesehen mich hat dann auch irgendwann bisschen
17:10 der Spieltrieb gepackt muss ich sagen wenn Zoni nur ein Wunsch frei hätte dann würde er Stefan Scheider sein wollen da
17:16 bin ich mir sicher schöne Grüße kann ich das haben für mein Facebook natürlichön Gru in
17:25 Redaktion sind JournalistInnen immer wieder mit Desinformation und mlerweile auch mit KI generierten Inhalten
17:30 konfrontiert wir hier von br24 wir haben inzwischen gelernt damit umzugehen jede Nachricht die in der Sendung landet hat
17:37 hat einen langen Weg hinter sich die wird abgeklopft die wird die muss wasserdicht sein wenn wir die senden und
17:42 wenn sie das nicht ist dann kommt sie nicht in die Sendung Nachrichten die ihr vom Bayerischen Rundfunk bekommt wurden
17:49 mehrfach geprüft factchecking Einheiten sind inzwischen in vielen Medienhäusern etabliert wenn ihr auf Social Media
17:57 Plattform unsicher seid ein Inhalt wirklich von einer seriösen Nachrichtenseite stammt schaut am besten
18:04 nach ob der Kanal offiziell verifiziert ist und jetzt steht noch mein finaler Test an können Leute die nichts von dem
18:12 Experiment wissen meine gefakete Nachricht von einer echten unterscheiden servus ich habe ein kleines Experiment
18:18 für dich vorbereitet es geht um die Nachrichten im BR Fernsehen und ich habe zwei kurze Videos ich zeige einmal mein
18:25 geftes Video zum Spargel Spargel hilft gegen Heuschnupfen in diesem Sinne Ihnen einen guten
18:33 Appetit und zum Vergleich eine Meldung aus einer echten br24 Sendung die stimmt Hummeln gutmütige Brummer und gern
18:43 gesehene Gäste im Garten doch wie geht's den Insekten eigentlich das fragt der bunt Naturschutz und ruft zum
18:49 hummelnzellen auf schon irgendeine Anmerkung grüne spagel schmeckt einfach gut ja das finde ich auch aber ich
18:55 wusste jetzt nicht dass es so positive neben wirk normales Hintergrundbild also das
19:01 Gesicht sah ein bisschen unrealistisch aus für mich sieht der Typ bisschen Fake aus ich würde sagen das KI jetzt noch
19:07 was mit Hummeln Hummeln das fragt der bunt Naturschutz und ruft zum hummelnzellen auf also deutlich
19:13 sympathischer irgendwie menschlicher normaler hummelzählen das ist blösin fällt euch sonst noch was auf alles Fake
19:21 oder warum ja ich Witz humelzählung kann stimmen kann auch nicht stimmen Internet halt die meisten
19:30 gehen erstmal auf den Inhalt ein ich hake noch mal nach wenn ich euch jetzt sage eins von
19:36 diesen beiden Videos einer der beiden Clips ist komplett Fake das hat so nie gegeben mit KI oder ich würde sagen der
19:44 zweite ist falsch falsch die Hummel ja die die Mimik von ihm dann löse ich das jetzt mal auf für euch dieses Video zu
19:51 den Hummeln das ist das echte und das ist die Fälschung die ich selbst mit der KI gebastelt habe krass aber deutlich
19:59 realistischer aus auch mit den Augen viel mehr interagiert ich find's wahnsinnig krass wie nah das dran ist
20:04 also ich find sieht schon realistisch aus und es hört sich auch realistisch an die zehn Menschen die wir befragt haben
20:11 waren zum Großteil sehr verunsichert vier erkennen die Fälschung manche aber erst beim zweiten Hingucken
20:19 sechs Leute sehen keinen Unterschied zum echten Video oder halten das echte Video für den Fake sehr gut Fälschung hast du
20:26 gut gemacht danke aber irgendwie auch schon oder ja ich fin sehr beängstigend weil da das wird sehr chaotisch in die
20:33 Zukunft das ist sehr gefährlich heutzutage auch für ältere Menschen und die Tools werden in Zukunft ja sogar
20:40 noch besser werden ich bin immer noch gleichermaßen fasziniert wie schockiert wie leicht es
20:45 ist relativ gute Fake Videos zu erstellen also nicht nur wir User inen brauchen ein kritisches Auge auch die
20:51 Plattform und die Politik sind gefordert und damit gebe ich jetzt zurück ins Studio zu Stefan Scheider danke meine
20:58 Empfehlung an euch abonniert diesen Kanal und schaut euch an wie Nadine versucht hat eine Bachelorarbeit mit
21:04 Chat GPT zu schreiben und wie my mit KI Geld machen wollte euer Fake Stefan Scheider