Das Video kommt von YouTube: erst beim Abspielen verbindet sich die Seite mit YouTube (Google).
Deepfake Selbstexperiment: Wie easy kann ich Fake News mit KI erstellen?
Das Wichtigste aus dem Video
Tipp auf eine Zeit – das Video springt genau dorthin.
Transkriptautomatisch erstellt · 178 Zeilen
- Leute fällt euch bei diesem Video hier irgendwas auf das heute journal mit Hanna Zimmermann und Christian siebas
- guten Abend ihnen allen wir schauen in eine Zukunft die längst begonnen hat wir sprechen von einer neuen KI gestützten
- anlageplattform die bereits Millionen von Deutschen Bürgern zur Verfügung steht das Problem ist dieses Video ist
- fake in den vergangenen Monaten sind mehrere solche Videos aufgetaucht wo teilweise Stimme und Gesicht von
- Moderatorinnen missbraucht wurden ich will wissen wie leicht ist es mittlerweile solche Fakes zu erstellen
- mein Ziel ein nachrichtenfake von br24 Moderator Stefan Scheider zugft der Polizei schaffe ich
- es wirklich einen Fake zu basteln der von echten Nachrichten nicht zu unterscheiden ist mal sehen ob das ob
- das gut funktioniert das ist er geil was wir jetzt alles damit anstellen
- könen okay also so in der Qualität habe ich es noch nicht gesehen und ich möchte herausfinden wie man Fakes eigentlich
- erkennt das ist die Fälschung die ich selbst mit der KI gebastelt habe aber irgendwie ja auch schockierend oder
- ja kriege ich es hin ein Fake Video zu erstellen komplett ohne Vorwissen setze mich jetzt hier hin habe ein paar
- Stunden weil ich nämlich gelesen habe mehrfach das soll mittlerweile ganz leicht sein und deswegen fange ich jetzt
- einfach mal an im Internet ein bisschen rum zu suchen und zu gucken ob mir da ein Tool in die Hände fällt mit dem ich
- das zustande bringe vielleicht such mal nach deep Fake erstellen was ich schon mal krass finde
- ist wie viele deep Fake Apps und Tools es gibt wo du tatsächlich recht easy Fakes
- erstellen kannst also ich bin ja komplett überfordert ich weiß ja gar nicht welches Tool ich hier nehmen soll
- so viele gibt's wir zeigen hier übrigens bewusst keine Namen und Logos der Tools denn wir wollen keine Anleitung zum
- Nachbauen liefern wie gefährlich sowas sein kann werde ich später noch erfahren hier z.B heißt es also mit diesem Tool
- können Sie mühelos die Stimme einer Person klonen und dabei deren einzigartigen Akzent und Stil
- beibehalten genau das brauche ich ja zum Testen starte ich mit einem Klon meiner eigenen
- Stimme hallo liebe KI hier ist der my und jetzt bin ich mal gespannt was du kannst ob du in der Lage bist meine
- Stimme zu klonen und jetzt daraus irgendwas zu machen was halbwegs nach mir klingt also wenn ich das jetzt
- richtig anden habe dann kann ich jetzt einen Text eingeben schriftlich und dann kommt der KI min da
- raus ich bin gespannt hallo hier spricht der KI min na Klinge ich wie ich oder eher wie gefälscht eher wie gefälscht
- würde ich sagen also ja okay ging sehr schnell noch nicht maximal beeindruckend aber vielleicht reicht auch das Material
- noch nicht das hat keine 10 Minuten gedauert ich gebe dem Tool noch mehr Stimmproben jetzt hört mal bitte gut zu
- was der KI miny euch zu sagen hat seid ihr schon mal auf Fake naachrichten gestoßen und wenn ja wo schreibt uns das
- doch bitte mal in die Kommentare vielen Dank es geht hier darum eine nachrichtenmoderation von
- einem echten nachrichtenmoderator zu fälschen einer unserer Hauptnachrichten Moderatoren im Fernsehen das ist der
- Stefan Scheider und so hört der sich bei einer echten Nachrichtensendung an wer in
- Deutschland kiffen will muss inzwischen genau hinsehen wo man darf und wo nicht mit einem Triumph endete heute
- Nachmittag das ATP tennisurnier in München von dem gibt's logischerweise sehr viel
- Material lieber Stefan ich werde versuchen dich zu fälschen jetzt hier ich lade mir erstmal
- einen Ausschnitt einer Sendung runter so habe ich direkt eine Audio und videovorlage von ihm das Programm
- imitiert dann die Stimmlage Aussprache und Betonung mit Hilfe von KI das videotool arbeitet mit der
- Lippenbewegung diese wird dann an die Audiodatei angepasst so kann jeder beliebige Satz mit dem passenden
- Gesichtsausdruck und der typischen Sprachmelodie verbunden werden ja und da ziehe ich mir jetzt ein
- mp3 und das lade ich da einfach hoch als erstes will ich die Stimme faken mit dem Tool das ich gerade schon benutzt habe
- liebe Leute ich habe einen guten Tipp für euch lasst unbedingt der pulsreportage ein Abo da vielen Dank und
- guten Abend danke Stefan hey das klang noch gut also ein Tick zu hoch glaube ich noch so von der
- Stimmlage aber aber aber gut geil okay die Stimme könnte noch etwas echter klingen ich kann aber im Tool noch ein
- paar Einstellungen anpassen das geht in der Bezahlversion für knapp se Dollar im Monat lasst unbedingt der pulsreportage
- ein Abo da vielen Dank und guten Abend das ist er was wir jetzt alles damit anstellen
- könen ich bin aber wenn ich jetzt mal kurz drüber nachdenke auch schockiert weil ich habe einfach ein bisschen
- rumgegoogelt und bin jetzt bei irgend so ein Tool gelandet hab damit rumgespielt und nach einer dreiviertel Stunde habe
- ich jetzt quasi sie schon mal die Stimme von dem nachrichtenankker man
- gefälscht ob das beim Video auch so einfach funktioniert tatsächlich werden solche Tools auch benutzt um sie für die
- Verbreitung von Fake News zu missbrauchen genau das ist vor ein paar Monaten mit der Stimme von
- Tagesschausprecherin Susanne Daubner passiert gefächte Audiodateien der Tagesschau im
- Umlauf tagesschaubn ver gefächten Audiodateien Polizei ermittelt wegen gef ST
- tagesschaunachrichten auch andere Tagesschausprecher sind von den sogenannten deep Fakes betroffen auf
- pegida und Querdenker Demonstrationen hier Bilder aus Dresden wurden über Lautsprecher Audios mit der Stimme von
- Jens rieer abgespielt auch die gefälscht wir haben wissentlich die häufig gravierenden und teils tödlichen
- Nebenwirkungen der coronaimpfungen verschwiegen im Fall der gefälschten Audios kündigt die Tagesschau nun
- rechtliche Schritte an der Staatsschutz ermittelt inzwischen wegen Verleumdung und Volksverhetzung die Tagesschau
- bestätigt uns dass immer mehr solcher Fälle auftreten dabei gehhe es nicht nur um Fake Audios sondern auch Videos oder
- komplett nachgebaute Websites okay das Audio habe ich schon aber mein Ziel ist ja ein Video zu erstellen ja jetzt bin
- ich mal in irgend so einer deep Fake Video Plattform hier gibt auf jeden Fall viele Möglichkeiten aha hier kann man
- seinen digitalen Zwilling erstellen dafür muss ich eine Videoaufnahme hochladen aber ich stoße
- schnell auf die erste Hürde das ist jetzt aber gemein jetzt habe ich das hochgeladen und alles toll
- und jetzt will ich meine Fälschung haben und jetzt sagt mir dieses blöde Tool dass ich jetzt hier beweisen muss dass
- ich das bin also mit einem Foto aber ich bin das ja gar nicht a das ist ja also ich meine
- das ist natürlich ist natürlich gut dass die da so eine Sicherheitsschranke einbauen aber das
- ist jetzt natürlich für mich schlecht aber vielleicht gibt es ja eine Möglichkeit das Tool mit alten Videos
- von ihm auszutrixen das ist natürlich eigentlich nicht erlaubt denn von anderen Personen
- darf man ohne deren Zustimmung keine Fakes erstellen und verbreiten denn auch hier gilt ähnlich wie bei echten Fotos
- und Videos das Recht am eigenen Bild und gesprochenen Wort deswegen habe ich mir vor unserem Experiment die Zustimmung
- von Stefan Scheider geholt klappt leider trotzdem nicht oh nein okay dann suche ich jetzt mal ein
- wenig weiter weil in diesem Internet da wird es wahrscheinlich auch irgende eine Software geben ohne diesen Sicherheits
- schnickichnacki das nächste Tool hat überhaupt keine Sicherheitsschranken ich kann einfach einen echten Clip von
- Stefan Scheider hochladen dann bra ich noch das passende Audio ob das klappt okay also ich habe die gute
- gefakete Stefan Scheider Stimme vom anderen Tool jetzt hier importiert und mal sehen ob das ob das gut
- funktioniert das ist ein Test ob dieses Tool aus mir dem echten Stefan Scheider einen Fake Stefan Scheider machen
- kann kann es kann es das ist richtig geil hier zum Vergleich noch mal das Original das ich hochgeladen habeang
- stand da blüht heute eine fruchtbare Nachbarschaft und zwar zwischen Bayern und Tschechien und hier der Fake das ist
- ein Test ob dieses Tool aus mir dem echten Stefan Scheider einen Fake Stefan Scheider machen
- kann a da jetzt macht's mir richtig Spaß das kann ich den ganzen Tag machen wenn man einmal verstanden hat wie die
- Programme funktionieren kriegt man das in wenigen Minuten hin eine Testversion es kostenlos wenn man die Videos ohne
- Wasserzeichen downloaden will kostet das $ im Monat oft werde ich gefragt wie ich mich auf die Sendung vorbereite nun das
- Geheimnis ist kurz vorher gönne ich mir jedes Mal einen abproh spritz ob Stefan Scheider das hier auch
- alles so lustig findet frage ich ihn später ich hätte das nicht gedacht dass das in der Qualität was jetzt hier das
- Bild und vor allem auch die Stimme angeht dass das für mich ohne jegliche Vorbereitung ohne
- irgendwelche it Skills dass das dann alles so funktioniert wir fragen die Anbieter der Tools an wie es sein kann
- dass wir so einfach Fakes von anderen Menschen erstellen können der videotool Anbieter antwortet gar nicht der
- audioool Betreiber schreibt uns sie können keine no Stimmen Klonen die als risikoreich eingestuft werden wir werden
- entsprechende Maßnahmen ergreifen wenn uns Missbrauchsfälle gemeldet oder von uns deckt werden und wir verfügen über
- Mechanismen um Behörden oder relevante Parteien bei der Identifizierung von böswilligen Akteuren zu
- unterstützen mit noo Stimmen meint das Unternehmen aktuell z.B Politiker innen die 2024 in den USA und Großbritannien
- zur Wahl stehen ich will später eines meiner Videos auf der Straße testen erkennen
- die Leute meinen Fake erstmal zeige ich das Video aber jemandem der sich richtig gut mit Fakes auskennt
- wir haben ehrlich gesagt in der Redaktion länger diskutiert ob wir dieses Thema überhaupt machen und dieses
- Experiment weil wir wollen ja nicht selbst Fake News in die Welt setzen und wir wollen auch keine Anleitung liefern
- wie ihr sowas machen könnt aber wir wollen vor allem aufklären weil wir das Thema total wichtig finden deswegen bin
- ich jetzt verabredet mit einem Forscher der zum Thema Fake News forscht der auch an Lösungen arbeitet und der uns allen
- hoffentlich erklärt wie wir künftig deep Fake Videos erkennen können dr Jonas Fegert leitet ein Forschungsprojekt zur
- Bekämpfung von Fake News Jonas ich habe dir was mitgebracht ja und zum Schluss noch eine gute
- Nachricht zumindest wenn sie Spargel lieben und Allergiker sind eine Studie kam jetzt zu dem Ergebnis grüner Spargel
- hilft gegen Heuschnupfen in diesem Sinne Ihnen einen guten Appetit W ich sagen das ist nicht echt irgendwie
- Schattenwurf und Kopfhaltung aber so sicher bin ich mir nicht nicht also sagst Tendenz Fake aber nicht ganz
- sicher genau ist echt ne könnte es auch echt sein das erste Gefühl ist ja so ein
- bisschen der Content und da muss man ja irgendwie über den Inhalt auch gehen und dann ist so die erste Frage halte ich es
- für plausibel abgesehen jetzt von der Darstellung dass günpig gegen Heuschnupfen hilft und ich glaube so kam
- auch Teile von meinen Zweifeln tatsächlich ist das ein Fake den ich selbst zusammengebastelt habe ich fand
- es jetzt aber spannend dass du als absoluter Experte zwar von der Tendenz her gleich richtig lagst aber dann doch
- etwas ins Zweifel gekommen bist und ich finde dafür dass ihr das jetzt so selbst gemacht hat es ist schon auch
- erstaunlich gut auf was soll ich gucken damit ich damit ich das vielleicht identifiziere als
- Fake ich glaube trotzdem dass mein toptipp ist der eigenen Intuition zu trauen hier ist irgendwas falsch hier
- stimmt irgendwas nicht ein paar typische optische Details fallen auch bei unserem Video
- auf es wird unscharf um die halzpartie sozusagen es gibt ein Unterschied zwischen dem Gesicht und dem halt selber
- gucken noch mal rein oft werde ich gefragt wie ich mich auf die Sendung vorbereite nun das Geheimnis ist kurz
- vorher gönne ich mir jedes Mal einen ab bei diesen deep Fakes da würde ich tatsächlich dann auf solche Sachen
- achten wie passt der Körper zum Gesicht oder gibt gerade in dem Übergang der Halsregion
- Änderung wie sieht's mit dem wie steht's um den Schattenwurf um die Mundpartie wie bewegt sich der Mund ist da
- irgendwas künstlich es gibt schon Sachen auf die man achten kann schaut mal ganz genau auf den Mund da erkennt man dass
- da plötzlich Zähne aufploppen die vorher gar nicht da waren aber die Tools werden gerade immer
- besser aber was in Zukunft sicherlich eben noch besser gehen wird wir werden uns nicht nur auf so kleine technische
- Details verlassen können gerade weil die Tools immer besser werden empfehlen ExpertInnen vor allem drei konkrete
- Maßnahmen gegen Desinformation erstens Medienkompetenz Stärken UserInnen sollten aufgeklärt
- werden wie sie fakeinhalte erkennen und damit umgehen z.B an Schulen oder durch Videos wie dieses hier zweitens KI zur
- Erkennung von Fakes nutzen es wird schon jetzt an Programmen gearbeitet die KI generierte Inhalte erkennen sollen
- bisher sind sie aber noch nicht großflächig im Einsatz drittens Medieninhalte
- verifizieren dazu braucht es journalistische Formate die Inhalte prüfen und klare Regeln auf Social Media
- Plattformen ich sehe schon dass die Plattform da irgendwo auch eine Pflicht haben für Transparenz zu sorgen
- Plattform argumentieren natürlich immer dass sie neutral sind und nicht für den Inhalt einstehen und trotzdem wäre es ja
- an sich von dem Mechanismus her ein leichtes zu sagen wenn man Content hochlädt habe ich hier was künstlich
- verändert oder nicht und das könnte dann etwas sein was auch eingeblendet wird für alle anderen
- nutzenden der Inhalt unseres Videos ist bewusst relativ harmlos gewählt aber theoretisch kann man mit so etwas großen
- Schaden anrichten wenn z.B Menschen auf finanzbetrug reinfallen weil sie denken dass das ZDF die Plattform bewirbt und
- auch Jonas Fegert warnt wie gefährlich kann sowas sein aus deiner Sicht total gefährlich ich glaube es ist sozusagen
- in diesem politischen desinformations Kontext wahnsinnig gefährlich weil das sozusagen unsere
- Demokratien unterhöhen kann da ist es tatsächlich glaube ich auch wichtig dass sozusagen die Plattformbetreiber gucken
- dass solcher Content dann auch gelöscht wird deshalb verbreiten wir unsere Fake Videos nicht ohne Kontext und
- Kennzeichnung wir haben Meta x und titok angefragt wie sie mit Fake News und KI generierten Inhalten umgehen x antwortet
- gar nicht Meta schreibt uns dass auf ihren Plattformen Facebook Instagram und threats viel Information in der
- Verbreitung eingeschränkt werden in den kommenden Monaten sollen außerdem K generierte Inhalte automatisch
- gekennzeichnet werden an so einem Tool arbeitet auch tiktok bereits jetzt können hier
- creatorin selbst angeben wenn Ihre Inhalte KI generiert sind die Plattform verweist außerdem dar dar dass User in
- Fake Inhalte melden können wenn man sie denn erkennt und genau das teste ich gleich noch hier ist das br24
- Nachrichtenstudio hier treffe ich den echten Stefan Scheider und will von ihm wissen ob er auf seine eigenen Fakes
- reinfallen würde moin hi danke dass wir zu Gast sein dürfen und vor allen Dingen danke ich sag's lieber jetzt am Anfang
- dass ich dich faken durfte bin schon gespannt das ist ein Test ob dieses Tool aus mir dem echten Stefan Scheider einen
- Fake Stefan Scheider machen kann okay und kann das Tool ein glaubwürdigen Stefan Scheider machen was sag sehr sehr
- clean muss ich sagen also so in der Qualität habe ich es noch nicht gesehen mich hat dann auch irgendwann bisschen
- der Spieltrieb gepackt muss ich sagen wenn Zoni nur ein Wunsch frei hätte dann würde er Stefan Scheider sein wollen da
- bin ich mir sicher schöne Grüße kann ich das haben für mein Facebook natürlichön Gru in
- Redaktion sind JournalistInnen immer wieder mit Desinformation und mlerweile auch mit KI generierten Inhalten
- konfrontiert wir hier von br24 wir haben inzwischen gelernt damit umzugehen jede Nachricht die in der Sendung landet hat
- hat einen langen Weg hinter sich die wird abgeklopft die wird die muss wasserdicht sein wenn wir die senden und
- wenn sie das nicht ist dann kommt sie nicht in die Sendung Nachrichten die ihr vom Bayerischen Rundfunk bekommt wurden
- mehrfach geprüft factchecking Einheiten sind inzwischen in vielen Medienhäusern etabliert wenn ihr auf Social Media
- Plattform unsicher seid ein Inhalt wirklich von einer seriösen Nachrichtenseite stammt schaut am besten
- nach ob der Kanal offiziell verifiziert ist und jetzt steht noch mein finaler Test an können Leute die nichts von dem
- Experiment wissen meine gefakete Nachricht von einer echten unterscheiden servus ich habe ein kleines Experiment
- für dich vorbereitet es geht um die Nachrichten im BR Fernsehen und ich habe zwei kurze Videos ich zeige einmal mein
- geftes Video zum Spargel Spargel hilft gegen Heuschnupfen in diesem Sinne Ihnen einen guten
- Appetit und zum Vergleich eine Meldung aus einer echten br24 Sendung die stimmt Hummeln gutmütige Brummer und gern
- gesehene Gäste im Garten doch wie geht's den Insekten eigentlich das fragt der bunt Naturschutz und ruft zum
- hummelnzellen auf schon irgendeine Anmerkung grüne spagel schmeckt einfach gut ja das finde ich auch aber ich
- wusste jetzt nicht dass es so positive neben wirk normales Hintergrundbild also das
- Gesicht sah ein bisschen unrealistisch aus für mich sieht der Typ bisschen Fake aus ich würde sagen das KI jetzt noch
- was mit Hummeln Hummeln das fragt der bunt Naturschutz und ruft zum hummelnzellen auf also deutlich
- sympathischer irgendwie menschlicher normaler hummelzählen das ist blösin fällt euch sonst noch was auf alles Fake
- oder warum ja ich Witz humelzählung kann stimmen kann auch nicht stimmen Internet halt die meisten
- gehen erstmal auf den Inhalt ein ich hake noch mal nach wenn ich euch jetzt sage eins von
- diesen beiden Videos einer der beiden Clips ist komplett Fake das hat so nie gegeben mit KI oder ich würde sagen der
- zweite ist falsch falsch die Hummel ja die die Mimik von ihm dann löse ich das jetzt mal auf für euch dieses Video zu
- den Hummeln das ist das echte und das ist die Fälschung die ich selbst mit der KI gebastelt habe krass aber deutlich
- realistischer aus auch mit den Augen viel mehr interagiert ich find's wahnsinnig krass wie nah das dran ist
- also ich find sieht schon realistisch aus und es hört sich auch realistisch an die zehn Menschen die wir befragt haben
- waren zum Großteil sehr verunsichert vier erkennen die Fälschung manche aber erst beim zweiten Hingucken
- sechs Leute sehen keinen Unterschied zum echten Video oder halten das echte Video für den Fake sehr gut Fälschung hast du
- gut gemacht danke aber irgendwie auch schon oder ja ich fin sehr beängstigend weil da das wird sehr chaotisch in die
- Zukunft das ist sehr gefährlich heutzutage auch für ältere Menschen und die Tools werden in Zukunft ja sogar
- noch besser werden ich bin immer noch gleichermaßen fasziniert wie schockiert wie leicht es
- ist relativ gute Fake Videos zu erstellen also nicht nur wir User inen brauchen ein kritisches Auge auch die
- Plattform und die Politik sind gefordert und damit gebe ich jetzt zurück ins Studio zu Stefan Scheider danke meine
- Empfehlung an euch abonniert diesen Kanal und schaut euch an wie Nadine versucht hat eine Bachelorarbeit mit
- Chat GPT zu schreiben und wie my mit KI Geld machen wollte euer Fake Stefan Scheider
Zum Nachlesen
ReportageAls Reportage (von lateinisch reportare = berichten, melden) bezeichnet man im Journalismus unterschiedliche Darstellungsformen, bei denen der Autor nicht …
ExperimentIm Unterschied zur bloßen Beobachtung oder der Demonstration eines Effekts werden im Experiment Einflussgrößen verändert. Experimente werden in vielen Bereichen …
Künstliche IntelligenzKünstliche Intelligenz (kurz KI, englisch artificial intelligence, kurz AI) ist ein Forschungs- und Anwendungsgebiet der Informatik.
DeepfakeDeepfakes (englisch Kofferwort aus den Begriffen „Deep Learning“ und „Fake“) sind realistisch wirkende Medieninhalte (Text, Foto, Audio, Video), die durch …