Deepfakes sind täuschende Fälschungen von Bild-, Audio- und Videomaterial. Forschende untersuchen sie und sind selbst betroffen. Bei manchen Wissenschaftlerinnen und Wissenschaftlern leuchten die Augen, wenn sie über Deepfakes sprechen. Sie sind fasziniert davon, mit welcher Genauigkeit Software, die auf Künstlicher Intelligenz (KI) basiert, Stimmen, Fotos oder Videos erzeugen, manipulieren, nachahmen und fälschen kann. Sie sehen vor allem Chancen – auch für Forschung und Lehre. 

Fake News und Desinformation sind seit Jahren in aller Munde, wenn es um die Gefahren des Internets geht. Doch wie groß ist die Bedrohung wirklich? Sind wir alle gefährdet durch falsche Informationen im Internet? In letzter Zeit gibt es immer wieder Stimmen, die dem widersprechen, zum Beispiel Christian P. Hoffmann von der Universität Leipzig. Im MEDIEN360G-Interview sagt er, dass der Alarmismus vor den sogenannten Fake News auch zur Gefahr für unsere Gesellschaft werden kann.

In 2022, Vitali Klitschko appeared to video call German, Austrian, and Spanish politicians regarding the Ukraine war. However, what seemed like a genuine conversation turned out to be a deepfake prank. It took a few minutes for the mayors of Madrid and Berlin to catch on. Officials in Vienna were slower to realize they were speaking to fake content.

Anderthalb Jahre nach dem großen KI-Hype kommt KI-Pionier Open AI mit einem "O" um die Ecke. Statt eines Versionssprungs auf GPT-5 gibt es mit GPT-4o nun zwar ein multimediales Universalmodell, aber Videos kann es noch nicht. Mit der KI-Video-Software Sora hat das Unternehmen aber dieses Jahr bereits gezeigt, dass es auch das kann: Falsche Videos täuschend echt generieren. Das beunruhigt zunächst, im Hinblick auf die in diesem Jahr anstehenden Wahlen in Deutschland und Europa. Mit Recht?

In unserer Podcast-Folge „Wie gefährlich sind Fake News wirklich?“ erklärt uns der Kommunikations- und Medienwissenschaftler Prof. Dr. Christian P. Hoffmann von der Universität Leipzig, warum Desinformationen entgegen dem aktuellen Forschungsstand weiterhin als große gesellschaftliche Bedrohung wahrgenommen werden.

Ob Popstar oder Politiker – mit Künstlicher Intelligenz lassen sich Fotos, Videos und Tonaufnahmen von jedem Menschen fälschen. Werden dadurch womöglich bald Wahlen beeinflusst?

Viele Menschen glauben nur das, was sie sehen. Doch darauf ist kein Verlass mehr. Künstliche Intelligenz (KI) entwickelt sich rasant, auch bei der Erstellung von Bildern und Videos. Deepfakes sind immer schwieriger zu erkennen. Ein Workshop sensibilisiert junge Menschen dafür.

Mit dem Fortschritt Künstlicher Intelligenz explodiert auch die Zahl pornografischer Deepfake-Videos. Fast immer sind die Opfer der Manipulationen weiblich.

Künstliche-Inntelizenz-Werkzeuge für Bilder und Videos sind mittlerweile frei verfügbar, so gut wie jeder kann damit Fälschungen erstellen - auch für Zwecke wie Betruf, Propaganda und Mobbing. Die Flut dieser sogenannten Deepfakes könnte die Wahrnehmung von Medien im Internet grundsätzlich verändern. 

Alle Welt redet über ein Foto der Prinzessin von Wales mit ihren Kindern. Warum? Es wurde erkennbar manipuliert. Englische Palast-Panne oder bereits fake reality? Die EU nennt Desinformation eine große Gefahr für die Demokratie.

Eine putzige Katze, die sich bei Frauchen im Bett das Frühstück einfordert. Oder eine Frau, die bei Regenwetter zwischen den Glitzerfassaden von Tokyo flaniert: Open AI – das große KI-Haus, aus dem auch ChatGPT kommt – hat Mitte Februar wieder einen draufgelegt: KI kann jetzt auch Video und dank Sora täuschend echt. Das beunruhigt zunächst, im Hinblick auf die in diesem Jahr anstehenden Wahlen in Deutschland und Europa. Mit Recht?

Deepfakes von Prominenten führen Menschen in die Irre oder verletzen deren Rechte. Ein Opfer: die Schauspielerin Collien Ulmen-Fernandes. Kann man der KI Grenzen setzen?

KI-Programme erstellen immer realistischere Bilder und Videos. Das Missbrauchspotenzial ist hoch. Fachleute schätzen den Einfluss auf Wahlen und die Erfolgsaussichten von Gegenmaßnahmen ein.

Die Mehrheit der Deutschen sieht in Desinformation laut einer aktuellen Studie eine Gefahr für Demokratie und Zusammenhalt. Aus Sicht des Medienwissenschaftlers Christian Hoffmann geht der öffentliche Diskurs hier stark am Forschungsstand vorbei.

Die Entwicklung und Verbreitung von KI-Technologien zur Erstellung von Bildern und Videos hat nach Einschätzung einiger Experten das Potenzial, die Landschaft der öffentlichen Meinungsbildung und den Informationsfluss online signifikant zu verändern.

Einfluss auf Wahlen und Meinungsbildung
„Es ist noch zu früh, Aussagen über mögliche Einflüsse auf das Wahlverhalten zu treffen. Bisher sind politische ‚Deepfakes‘ noch sehr selten, sie werden in der Regel im öffentlichen Diskurs schnell als solche offenbart. Das ist wichtig, weil die meisten Bürger ihre Informationen nach wie vor aus etablierten Medien beziehen.“

Die Plattform X, besser bekannt als Plattform Twitter, lässt derzeit keine Suche nach der Musikerin Tylor Swift zu. Grund sind etliche KI-Deepfakes, die die Pop-Sängerin in pornografischen Posen zeigen. 

In der Politik wächst die Sorge vor Desinformation durch Deepfakes. Microsoft hat nun eine Wasserzeichen-Technologie eingeführt, um dem Problem zu begegnen. Doch damit diese wirklich etwas bewegen kann, müsste sie sich als Standard etablieren.

Künstliche Intelligenz bietet Trickbetrügern noch mehr Möglichkeiten, um ihre Opfer abzuzocken. Der Kommunikationswissenschaftler Alexander Godulla hält etwa Stimmimitationen in Echtzeit noch in diesem Jahrzehnt für denkbar. Sein Rat: Wir müssen skeptischer werden.

In Spanien hat das jetzt für einen Aufschrei gesorgt: An einer Schule kursierten in Chats manipulierte Bilder, so genannte Deepnudes, von Schülerinnen. Deren Mütter taten sich zusammen und sorgten für eine große Debatte in den Medien.

Nichts ahnend im Internet surfen und plötzlich sieht man sein Gesicht – aber nicht auf dem eigenen Körper. Deepfakes werden immer populärer und sind bereits Teil unseres Alltags. An der Universität in Leipzig gibt es bereits seit 2020 ein eigenes Deepfake-Projekt. Professor Alexander Godulla möchte mit seinem Team sowohl Chancen als auch Risiken künstlicher Intelligenz erforschen und aufzeigen.

Mit Hilfe von Künstlicher Intelligenz lassen sich täuschend echt erscheinende Bilder und Videos von Politikern generieren. Ist das eine Gefahr für die Demokratie?

Wenn plötzlich alles Fake ist, kann das ein echtes Problem für die Stabilität unserer Demokratie werden. Ein Gespräch über den Umgang mit Deepfakes

Christian Hoffmann, Professor für Kommunikationsmanagement an der Uni Leipzig, erwartet, dass die Zahl der Fake News im Internet steigen wird, weil sie sich mithilfe von KI-Tools leicht produzieren lassen. Im kress-Interview sagt er, warum das kein Grund zur Panik ist.

Mit der Deepfake-Technologie wird es in wenigen Jahren jedermann möglich sein, Fake-Videos von sich selbst und anderen Personen zu erstellen, die selbst für Expert*innen nur mit viel Mühe von echten Videos zu unterscheiden sind. Was der Unterhaltungsindustrie ganz neue Möglichkeiten eröffnet, könnte zugleich neue Formen der Cyberkriminalität hervorbringen.