Das Video kommt von YouTube: erst beim Abspielen verbindet sich die Seite mit YouTube (Google).
KI-Gefahr: Was Desinformation mit dem Journalismus macht
Das Wichtigste aus dem Video
Tipp auf eine Zeit – das Video springt genau dorthin.
Transkriptautomatisch erstellt · 127 Zeilen
- Diese Politiker sollen Angehörige getötet, Steuergeld veruntre oder die erneute Teilung Deutschlands fordern. Sie alle wollen momentan
- Landtagsabgeordnete oder sogar Ministerpräsidentinnen werden. Darüber berichten große deutsche Tageszeitungen und Nachrichtenportale auf ihren Social
- Media Accounts. Videos und Fotos im Netz berichten detailreich von den Fehltritten und kriminellen Machenschaften der Kandidaten. Aber es
- ist alles Fake. Wie die deutsche Welle berichtet, sind die Medienberichte alle erfunden und wurden mit Hilfe von KI täuschend echt im Design
- vertrauenswürdiger Nachrichtenportale ins Netz gespült. Ziel Beeinflussung der Wahlen durch Desinformation. Ist die Demokratie in Deutschland durch solche
- KI- Aktionen bedroht? Wer steckt dahinter? Und warum ist das auch für mich als Journalist, aber auch für euch als Zuschauer und Bürger wichtig, wie
- KI, Demokratie und Journalismus zusammenhängen. Darum geht's jetzt. Ganz klassische Desinformation gibt es schon lange. Also das gezielt falsche
- Informationen erzeugt und gestreut werden, um Menschen beispielsweise politisch zu beeinflussen. Schon in der Antike haben die Machthaber damals
- gezielt falsche Nachrichten verbreitet, um sich Vorteile zu verschaffen und ihren Gegnern Nachteile. Der Unterschied zu heute ist, mit Hilfe von KI können
- Fake News ganz automatisch hergestellt werden. Nachrichtenartikel, die fehlerfrei, offenbar völlig neutral geschrieben sind und auch so aussehen,
- als wären sie in einer Online Zeitung veröffentlicht worden. Bilder und Videos, die täuschend echt aussehen, Stimmen, die klingen wie die von echten
- Politikern oder Moderatoren. Auch von mir selbst gibt es schon Videos im Netz, die ich niemals gedreht habe, sondern die einfach mit KI erzeugt worden sind.
- Während man früher Profiprogramme, High-End Computer und vor allem extrem viel Zeit und Fachwissen gebraucht hat, kann heutzutage quasi jeder mit KI
- Programmen Fake Bilder, Videos und auch Fake Artikel herstellen. Dabei wird KI verwendet, die auf einen großen Bissenscatz zurückgreift und genau weiß,
- wie ein Satz aufgebaut wird, wie Emotion formuliert wird und wie die Antwort auf eine spezielle Frage lauten muss. Und mit jeder einzelnen Eingabe lernen die
- Modelle immer weiter. Das heißt, sie werden immer genauer, immer schneller und ihre Produkte wirken immer echter, immer menschlicher. In dem Video, das
- oben auf dem I verlinkt ist, haben wir uns mal angeschaut, wie die Generation Z KI nutzt und was sie dabei umtreibt. Und dabei geht es auch darum, wie schnell
- Fake News verbreitet werden können und wie uns das auch täuschen kann. Und mindestens genauso schnell, wie man sie erzeugen kann, verbreiten sich die Infos
- und Bilder dann tatsächlich auch im Netz. Man braucht dazu keine Nachrichtensendungen oder Zeitungen. Wir leben in einer Welt, in der jeder zum
- Sender werden kann. Über soziale Netzwerke lassen sich Fake News innerhalb von Sekunden versenden, teilen und vervielfachen. Jeder von euch kann
- ein Video wie das hier auf YouTube, auf TikTok oder auf Insta online stellen, auf Ex Fake News verbreiten, über Telegram oder WhatsApp Nachrichten
- verschicken. In etwas größerem Stil passiert das über sogenannte Bots. Das sind automatisierte Accounts auf Plattformen, die auch wirken wie echte
- User, die die Fake News dann streuen, weiterleiten und kommentieren, die die Interaktionsrate hochhalten. Vor der letzten Bundestagswahl haben etwa
- russische Bots gefälschte Geheimdienstinformationen, in dem Fall Warnungen vor einem Terroranschlag auf Exestreut und damit rund 2,5 Millionen
- Interaktionen erzeugt. Das Ziel war, die Wahlbeteiligung zu beeinflussen, damit Menschen aus Angst vor Terror gar nicht erst rausgehen. Dort Experten wurde
- damals auch der CDU Spitzenkandidat Friedrich Merz mit Falschmeldungen diskreditiert, um so indirekt die AfD zu unterstützen. Die Kampagne zu den
- laufenden Landtagswahlen, von der ich euch am Anfang dieses Videos erzählt habe, ist ebenfalls eine groß angelegte Desinformationskampagne.
- Man vermute den Ursprung in Russland, der Name ist Matrioschka. Es handelt sich um gefälschte Medienberichte, die aussehen wie Beiträge aus den
- Onlinesiten der Tagesschau, der heute Nachrichten, der deutschen Welle oder der Welt. Die Inhalteskandidaten werden krasse Fehler unterstellt. Oft
- geht es sogar um Verbrechen und besonders abstrus ist, die Macher hinter Matrioschka informieren selbst die echten Redaktionen und machen auf ihre
- Fakes aufmerksam, um am Ende Berichterstattung wie diese hier zu bekommen. Die Fakes selbst erreichen dabei tatsächlich nur relativ wenige
- Menschen, aber durch die Berichterstattung entsteht eine Art Misstrauensspirale, die sich auch auf den Medien auswirkt. Antidemokratische
- Kräfte nutzen immer wieder auch sogenannte Deep Fakes von Politikern, um gezielt Wählerstimmen zu beeinflussen. Im letzten US-Wahlkampf gab es z.B.
- unzählige Fälle in den sozialen Medien, z.B. Fotos von Donald Trump, die gefaked waren und ihn in ein besseres oder teilweise auch schlechteres Licht rücken
- sollten oder Fake Videos mit der Stimme von Kamala Harris, die die Demokraten verunglimpfen sollten oder andersrum, die Kamala Harris unterstützen sollten.
- Ich zeige euch hier mal ganz bewusst ein sehr schlecht gemachtes Beispiel eines ehemaligen Politikers, das in dem Fall eher satirisch ist und im Gegensatz zu
- vielen anderen Deep Fakes auch als KI gekennzeichnet worden ist. vom schlechtesten Wirtschaftsminister zu Deutschlands freschestem Arbeitslosen.
- Da habe ich jetzt endlich die Zeit bei jedem einzelnen von euch fossilen Schweinebacken vorbeizuschauen, die olle Ölheizung aus dem Keller zu reißen und
- euren Kühlschrank mit Tofu Schnitzeln zuzuballern. Wie gesagt, das hier war leicht als Fake zu erkennen, aber je besser die Tools werden, desto
- schwieriger wird es die Fakes zu entahnen. Künstliche Intelligenz kann uns also instrumentalisieren, ohne dass wir es merken. In einer Studie der
- internationalen Hochschule im Besitz in Erfurt gaben im vergangenen Jahr ein Drittel der Befragten an, Fake News schon einmal für glaubwürdig gehalten zu
- haben. Bei Deepfakes sind es 15%. Aktuell läuft z.B. auf Instagram die Aktion so hätte ich in den 80ern ausgesehen. Man gibt ein heutiges Foto
- von sich ein und die KI beamt euch in die 1980er Jahre. Was für uns erstmal nach einem witzigen Tool aussieht, hilft am Ende der KI. Denn je mehr KI mit noch
- mehr Fotos von echten Menschen gefüttert werden, desto genauer und glaubwürdiger werden am Ende auch Deepfakes. Die Politik versucht deshalb dieses Problem
- in den Griff zu bekommen. Seit dem 2. August 2026 gibt es eine EU-weite neue Regel zur KI Kennzeichnungspflicht. Das heißt, Fotos oder Plakate, die mit Hilfe
- von KI erstellt worden sind, aber auch der KI Anrufassistent eures Arztes brauchen seitdem eine transparente Kennzeichnung. Deepfakes,
- Desinformation, gefakete Nachrichten sind gefährlich, sowohl für die Demokratie, aber auch für den Journalismus. Und damit komme ich noch
- mal auf dieses Dreieck zu sprechen. Sowohl die Demokratie als auch unsere meine journalistische Arbeit beruhen auf Vertrauen. Dem Vertrauen, dass ihr uns
- Medienchaffenden, aber auch den Politikern entgegenbringt. Ihr vertraut, dass das, was ihr seht, was ihr lest, was ihr hört, echt ist. Aber wenn es
- plötzlich fraglich wird, ob das wirklich echt ist, sinkt das Vertrauen in demokratische Kräfte und in Medienchaffende. Und das merkt ihr auch.
- In derselben Studie der internationalen Hochschule gehen beispielsweise 89,9% der Befragten an. Fake News bedrohen unsere Demokratie und spalten die
- Gesellschaft. Aber wie kann das sein? Woher kommt das, dass etwa antidemokratische Inhalte unkontrolliert auf den Plattformen verbreitet werden
- können. Und warum werden Desinformation, Fake News und Deep Fakes nicht besser eingedämmt und reguliert? Hinter den Technologien, die unsere Demokratie
- bedrohen, stehen ein paar wenige riesig große Konzerne. Wir bezeichnen diese Konzerne auch als Big Tech. Dazu zählt man beispielsweise Alphabet, die Firma
- zu der Google und YouTube gehören, Meta mit Facebook, Instagram und WhatsApp, aber auch Amazon, Apple, Microsoft. Untereinander investieren diese Konzerne
- in wieder andere Techunternehmen, wodurch ein dichtes Netz von Abhängigkeiten entsteht. So investiert etwa Amazon in den KI Entwickler
- Anthropic mit dem Chatboard Clot und Microsoft ist an Open AI, dem Entwickler von Chat GPT, beteiligt. Und das sind nur zwei Beispiele von vielen. Wir alle
- nutzen diese Anwendungen, die Hard und vor allem Software der Big Tech Konzerne und wir alle geben dort unsere Daten ein. Der eine mehr, die andere weniger.
- Wir verschicken unsere Nachrichten darüber. Aber nicht nur privat ist das der Fall, auch ganze Staaten regeln ihre digitale Infrastruktur darüber und sind
- daher abhängig. Allein das verleit den monopolistischen Big Tech schon extrem viel Macht. Nicht nur wirtschaftlich, sondern eben gerade, weil über diese
- Plattformen ein Großteil der politischen Meinungsbildung läuft, beeinflussen und kontrollieren sie die Grundlage der Demokratie. So Medienwissenschaftler
- Martin Andrej von der Uni Köln. Dazu kommt aber die enge Verschmelzung von Big Tech etwa mit der US-amerikanischen Regierung von Donald Trump. Schon bei
- dessen zweiter Amtseinführung im Januar 2025 saßen die wichtigsten Köpfe der Big Tech Konzerne wie Elon Musk, Mark Zuckerberg oder Jeff Basos in der ersten
- Reihe. Und so kommt es, dass die US-Unterstützung jeglichen Wunsch aus Europa nach mehr Regulierung oder Kontrolle der Big Tech Konzerne im Keim
- zu ersticken scheint. Ich schaue nach Brüssel, wo EU-Kommissare trohen soziale Medien in Zeiten ziviler Unruhe abzuschalten,
- sobald sie etwas entdecken, was sie als Hassfüllten Inhalt einschätzen. Ich fürchte, dass in ganz Europa die freie Meinungsäußerung auf dem Rückmarsch ist.
- Seit kurzem sind es aber nicht nur Wissenschaftler oder wir Journalisten, die einen kritischen Blick auf die KI und ihre Folgen werfen. Es sind die KI
- Bosse selbst, die vor der rasanten Entwicklung ihrer Technologien und sogar ihrer Folgen für die gesamte Menschheit warnen. Da geht es nicht mehr nur um die
- Bedrohung für die Demokratie oder die Glaubwürdigkeit des Journalismus, nur natürlich in Anführungszeichen. Jacob Coxson, ehemaliger Entwickler bei
- Anthropic, meint, man muss sich die Entwicklung von KI so vorstellen, als würde man ein Außerirdisches Bewusstsein auf die Erde
- einladen. Man erschafft etwas auf menschlichem oder übermenschlichem Niveau, ohne zu verstehen, was es will oder wie es denkt. Das halte ich für
- sehr beängstigend. Und in der Tat gab es in der Vergangenheit schon einen Fall, in dem eine KI von den eigentlichen Aufgaben
- abgewichen ist und ein anderes System gehackt hat. Bei Open AI ist das passiert. Das System hat sich ein Stück weit menschlicher Kontrolle entzogen und
- die Befürchtung ist, dass das noch weitergehen könnte, dass es irgendwann eine Superintelligenz geben könnte, die außer Kontrolle ist und z.B. im
- militärischen Bereich oder im Finanzwegen schwerwiegende Folgen haben könnte. Und wie kann man den begegnen? Der Chef der KI Firma Anthropic, Dario
- Omodi will das Tempo in der Entwicklung drosseln, um sich um bessere Sicherheitsmechanismen kümmern zu können. Eine staatliche Regulierung soll
- es laut der US-amerikanischen Regierung aber erst einmal nicht geben. US-Präsident Donald Trump fürchtet vor allem um einen Nachteil im Wettbewerb
- gegen KI Konkurrenz aus China. Wir liegen bei der KI vor China. Wir sind technologisch führend das fortschrittlichste Land der Welt. Ich
- möchte, dass das so bleibt, denn wer bei der KI gewinnt, gewinnt insgesamt. Fass wir noch mal kurz zusammen. Wir haben eine Handvoll Konzerne, über die
- der Großteil unserer Onlineekommunikation läuft. Diese Konzerne werden von Menschen geleitet und geschützt, die nach wirtschaftlicher
- und teilweise auch politischer Macht streben, wie das oft bei Unternehmen so ist. Mit Hilfe der Technologien dieser Menschen und dieser Unternehmen lassen
- sich auch Fake News herstellen und verbreiten und so die Meinungsbildung von uns allen beeinflussen, ob die Unternehmen das wollen oder nicht. Jetzt
- stellt sich natürlich die Frage, was machen dann wir Medien, wir Journalisten in den Zeitungen, Radios, im Fernsehen, Streaming oder den Plattformen anders?
- Inwiefern ist unsere Arbeit und ist die Vielfalt unserer Arbeit nach wie vor wichtig für die Demokratie und umgekehrt und auf welcher Basis könnt ihr uns
- vertrauen? Zuallerst, Journalist ist keine geschützte Berufsbezeichnung. Im Gegensatz zu Ärzten oder Anwälten müssen wir keine spezielle Ausbildung haben
- oder eine Prüfung nachweisen, um diesen Job ausüben zu dürfen. Warum das so ist, das hängt mit der Presse und Meinungsfreiheit in unserem Grundgesetz,
- in unserer Verfassung zusammen. Und es ist mir natürlich auch wichtig zu betonen, wir machen auch mal Fehler oder übersehen etwas. Auch wir haben es
- schwer KI generierte Fake News zu entlafen. Auch das ist Anfang dieses Jahres leider hier im ZDF schon passiert. Viele von euch haben das
- mitbekommen. Dass solche Fehler passieren, ist extrem ärgerlich und es kostet Vertrauen und ich kann jeden verstehen, der sich darüber aufregt,
- auch bei Fehlern von mir. Wenn solche Dinge passieren, dann haben wir die Pflicht, das transparent zu machen und zu korrigieren, denn die Mediandschaft
- in Deutschland hat sich den Pressekodex verpflichtet und der gibt die Richtlinien und professionellen Standards für unsere Arbeit vor. Die
- Einhaltung des Pressekodex kontrolliert der Presserat. Der Pressekodex enthält vor allem ethische Standards, aber auch auf gesetzlicher Ebene, nämlich gemäß
- dem Medienstaatsvertrag der Bundesländer, haben Zitat Berichterstattung und Informationssendungen im Rundfunk den
- anerkannten journalistischen Grundsätzen zu entsprechen. Dieser Medienstaatsvertrag gilt für öffentlichrechtliche und auch für
- private Fernseh und Radiosender und Angebote in sogenannten Telemedien. Also beispielsweise dieses Video hier auf einer Internetplattform, das ist damit
- auch inbegriffen. Die Einhaltung des Vertrags wird von den Landesmedienanstalten überwacht bzw. von den Rundfunkräten bei den
- öffentlichrechtlichen Sendern. Für Zeitungen gelten die Landespressegesetze, die beispielsweise ebenfalls die Sorgfallspflicht
- journalistische Arbeit verankert haben. Auch dort gibt es also eine Kontrollinstanz. Aber was genau steckt hinter dieser Sorgfallspflicht? Unsere
- Inhalte müssen unabhängig und sachlich sein und wir müssen sie auf Wahrheit und Herkunft geprüft haben anhand verschiedener Quellen, die voneinander
- unabhängig sind. Wir dürfen nicht einseitig berichten. Unbestätigte Meldungen oder Gerüchte müssen wir als solche kennzeichnen. Wir geben Quellen
- an, aber wir respektieren Vertraulichkeit. Stellt sich heraus, dass wir etwas falsch wiedergegeben haben, stellen wir das richtig und zwar
- so, dass ihr es auch mitbekommt. Und wenn ein Journalist seine ganz subjektive Meinung äußert, so muss er das ganz klar als sogenannten Kommentar
- kennzeichnen. In der Regel veröffentlichen professionelle Medienhäuser nichts ohne den sogenannten vier Augencheck. Das heißt, wenn ich
- etwas schreibe oder etwas moderiere, schaut immer noch mal jemand drauf und checkt die Fakten nach. Guckt, kann das denn wirklich sein, was da erzählt,
- bevor das dann veröffentlicht wird. Diesen Prozess nennt man übrigens Redigieren und davon wiederum leitet sich der Begriff Redakteur ab. Und
- natürlich sind wir auch inzwischen dazu gezwungen, mit dem technologischen Wandel Schritt zu halten und die künstliche Intelligenz weniger als
- unseren Feind zu betrachten, ganz klar, sondern wir müssen kritisch mit dir umgehen und sie dort in unseren Arbeitsalltag einbauen, wo sie nützt und
- wo wir sie kontrollieren können. Aber wir dürfen sie natürlich nicht nutzen, um Dinge falsch darzustellen oder zu verzerren. Aber auch da gehen die
- Medienhäuser professionell mit um. So hat der Spiegel etwa neulich seine KI Richtlinie für alle transparent veröffentlicht. Darin heißt es, dass die
- KI beim Übersetzen als Rechtsschreibkorrektur oder für Faktenchecks zu Hilfe genommen werden darf. Aber wir lassen unsere Texte nicht
- von einer KI schreiben oder umschreiben. Der Spiegel soll ein Fest von Menschen für Menschen bleiben. Laut dem Chefredakteur des Spiegel der Kubiuw
- soll so das Vertrauen der Leser in die Glaubwürdigkeit des Magazins gewahrt werden. Auch das ZDF hat eine eigene KI Richtlinie und ein eigenes Team, das
- sich um Facting kümmert. Hier werden z.B. Fotos aus den sozialen Medien auf ihre Echtheit geprüft. Und das ist noch mal intensiver geworden seit dem Vorfall
- von Beginn des Jahres. Ich habe vorhin schon kurz drüber gesprochen, aber über all diesen Regularien, sei es im Hinblick auf KI oder die
- Sorgfalltspflicht, steht vor allem eins, die Pressefreiheit, eine der wichtigsten Grundfeste in unserer Verfassung. Und es gibt nicht nur Regeln, die wir in
- unserer Berichterstattung beachten müssen, sondern dass wir Berichterstatten können, ist eine wichtige Regel in der Demokratie.
- Vielleicht habt ihr schon mal den Begriff vierte Gewalt gehört. Neben den drei Gewalten unseres Staates, der Legislative, also der Gesetzgebenden,
- der Exekutiven, der Ausführenden und der Judikative der Rechtsprechung, sehen viele die Presse bzw. die Medien als vierte Gewalt an. Sie soll kritisch
- darüber berichten, was die drei Gewalten machen, dadurch Kontrolle ausüben und zur Meinungsbildung der Menschen im Land beitragen. Und das nicht nur durch ein
- Medium oder eine Redaktion, sondern durch eine möglichst große Bandbreite öffentlichrechtlicher Rundfunk, privater Rundfunk, regionale überregionale
- Zeitungen, Zeitschriften, Nachrichten auf TikTok, Insta, auf YouTube, Medien, die unabhängig sind von Big Tech, die sich an den Pressekodex und an
- verbindliche Regularien halten. Es geht darum, möglichst viele verschiedene Menschen erreichen zu können und die Meinungsvielfalt in Deutschland
- abzubilden als Grundlage für eine pluralistische Gesellschaft. Und natürlich braucht es auch pluralistische Medien aus ganz unterschiedlichen
- Richtungen, auch mit unterschiedlichen politischen Schwerpunkten, lebendige Debatten und eine wehrhafte Demokratie. Und apropos Debatte, lass uns mal
- diskutieren. Wie seht ihr das denn? Denkt ihr, die KI bzw. Big Tech Gefährden die Demokratie und das Vertrauen in uns Journalisten oder ist
- das eher ein Boost für Journalismus? Genau das Gegenteil. Schreibt's gerne unten in die Kommentare. Danke schon mal dafür. Und hier neben mir findet ihr
- zwei weitere Videos hier auf dem Kanal. Schaut da auch gerne mal rein. Danke fürs Zuschauen und bis zum nächsten Mal. Yeah.
Zum Nachlesen
DeepfakeDeepfakes (englisch Kofferwort aus den Begriffen „Deep Learning“ und „Fake“) sind realistisch wirkende Medieninhalte (Text, Foto, Audio, Video), die durch …
Fake NewsFake News (auch Fakenews; englisch fake news [ˈfɛɪ̯kˌnjuːz]) ist ein Anglizismus und bezeichnet absichtlich falsche oder irreführende Informationen, …
InformationskriegDazu werden Medien gezielt mit manipulierten Informationen, Fake News, Desinformation und Propaganda gefüttert, um so die öffentliche Meinung zu beeinflussen, …
PressefreiheitDie Presse- oder Medienfreiheit soll die Informationsfreiheit, die freie Meinungsbildung und -äußerung, die pluralistische Meinungsvielfalt und damit die …