Darum geht’s:
- Virale Videos, die einen Menschen in einem Mittelfinger-Kostüm auf einem rollenden Bürostuhl und eine rasende Oma bei ICE-Protesten in den USA zeigen sollen, sind KI-generiert.
- Viele Userinnen und User ließen sich täuschen, auch weil sie den Protest teilen und ihre Meinung in den Videos wiederfinden.
- Auch das Weiße Haus hat das Foto einer festgenommenen Aktivistin manipuliert.
Eine Oma düst mit ihrem elektrischen Rollstuhl auf einem Parkplatz vor ICE-Beamten davon; eine Person in einem Stinkefinger-Kostüm rollt auf einem Bürostuhl eine Straße hinab, während ICE-Beamte vergeblich versuchen, sie einzufangen: Videos wie diese wurden in den vergangenen Tagen millionenfach geklickt, geliked und kommentiert – dabei sind sie nicht authentisch.
Zwar protestierten in den letzten Wochen tatsächlich Tausende Menschen gegen ICE-Kräfte in Minneapolis. US-Faktenchecker fanden jedoch heraus, dass einige virale Videos von Protest-Szenen mit Hilfe von KI generiert wurden. Dieser #Faktenfuchs erklärt in fünf Tipps, wie man die Fakes erkennt und was dahintersteckt.
1. Tipp: Quellencheck
Im Falle des rollenden Stinkefingers fanden Faktenchecker der US-amerikanischen Seite Lead Stories heraus, dass der ursprüngliche Ersteller des Videos auf seinem Account angibt, KI-Inhalte mit satirischem Hintergrund zu erstellen. Wenn man dem Ursprungs-Post begegnet, hilft der Blick auf die Originalquelle und die Bio des Accounts.
Auch der Ersteller des zweiten KI-generierten Videos mit der rasenden Oma gab auf seinem Account an, KI-generierten Content zu veröffentlichen.
2. Tipp: Prüfen, wo sich der Inhalt noch findet
Doch das Mittelfinger-Video wurde auch auf anderen Accounts verbreitet – ohne diesen Hinweis. Es trägt das Logo von Fox 9 und suggeriert so, aus dem Fernsehprogramm des lokalen TV-Senders aus Minneapolis zu stammen. Auf der Webseite von Fox 9 gibt es das Video aber nicht – ein Hinweis darauf, dass das Video nicht wirklich von dem Sender stammt.
Userinnen und User kann es also helfen, "seitwärts zu lesen". Bei Zweifeln an einem Inhalt sollten sie die jeweilige Social-Media-Plattform verlassen und prüfen, wo sich der Inhalt noch findet.
3. Tipp: Bildfehler erkennen
Aber auch im Video selbst finden sich Hinweise auf die Erstellung mit KI: So ist an einer Stelle, etwa vier Sekunden nach Beginn des Videos, zu sehen, wie einer der angeblichen ICE-Beamten durch einen Autospiegel "hindurchgeht" – ein Fehler in der sogenannten Objektpermanenz, wie er KI trotz ständig verbesserter Technologie noch immer passiert. Um diese Fehler zu erkennen, kann es helfen, das Video mehrfach anzusehen und dabei einzelne Objekte zu verfolgen. Dabei sollten Userinnen und User darauf achten, ob sich das Objekt natürlich verhält, ob es plötzlich "verschwindet" oder ob physikalisch unmögliche Dinge passieren.
Bildfehler entlarven diese KI-Fakes: Ein ICE-Beamter, der scheinbar durch einen Autospiegel hindurchläuft und ein riesiger Einkaufswagen.
Auch das KI-generierte Video der rasenden Oma weist Auffälligkeiten in der Objektpermanenz auf. So scheint zu Beginn des Videos am oberen Bildrand ein überdimensionierter Einkaufswagen ohne Hinterräder aus dem roten Auto zu rollen.
Faktenchecker von Snopes haben noch weitere Anzeichen für die Fälschung des Videos mittels KI gefunden, die Userinnen und User selbst nachvollziehen können:
4. Tipp: KI macht Fehler bei Schriftzeichen
An einer Stelle im Video sind auf den Parkplätzen unleserliche Buchstaben und Wörter zu sehen. KI-Modelle werden zwar immer besser in der Darstellung von Schriftzeichen, dennoch ist so eine hieroglyphenartige Darstellung von Buchstaben und Zahlen nach wie vor ein typischer Fehler von KIs.
Hieroglyphenartige, sinnlose Schriftzeichen wie hier sind typische Fehler in KI-Videos.
5. Tipp: Logik-Fehler prüfen
Außerdem sind die Parkplatzmarkierungen auffällig, drei direkt nebeneinander liegende Reihen von Parkplätzen wirken eher unrealistisch. Denn bei voller Auslastung wären Autofahrer der mittleren Reihe daran gehindert auszuparken.
In dieses KI-Video hat sich ein Logik-Fehler eingeschlichen: Drei Parkreihen hintereinander wären sehr unpraktisch.
Bilder bestärken bestehende Haltungen
In den Kommentaren amüsieren sich viele Userinnen und User über die KI-generierten Videos. Manche erkennen, dass es sich um KI-Fakes handelt, es scheint ihnen jedoch egal zu sein. Etwa, weil sie die Haltung des Protests gegen ICE teilen. So schreibt eine Userin zur rasenden Oma: "Don't even care, if this is AI. This is gold." Die Bilder scheinen also bereits bestehende Haltungen zu verstärken – diesen Effekt wollte sich möglicherweise auch das Weiße Haus zu Nutze machen.
Weißes Haus manipuliert Pressefoto
So verbreitete die US-Regierung zuletzt ein KI-manipuliertes Foto einer festgenommenen Aktivistin, einer Rechtsanwältin namens Levy Armstrong. Sie soll gemeinsam mit anderen in Minnesota Proteste gegen ICE organisiert haben. Die US-Regierung stellte die Frau auf dem manipulierten Foto weinend dar, obwohl sie in der Situation gar nicht geweint hatte, wie das Originalfoto zeigt.
Der Hergang lässt sich anhand einer Chronologie von AP nachvollziehen: So gab die Generalstaatsanwältin Pam Bondi die Verhaftung von Levy Armstrong um 9.28 Uhr Ortszeit in einem Beitrag auf X bekannt. Weniger als eine Stunde später, um 10.21 Uhr Ortszeit, veröffentlichte die Ministerin für innere Sicherheit, Kristi Noem, das Originalfoto von Levy Armstrong ebenfalls auf X. Das Weiße Haus teilte das manipulierte Bild dann um 10.54 Uhr Ortszeit.
Betrachtet man die Bilder nebeneinander, dann fällt auf, dass bestimmte Details identisch sind. Dies deutet darauf hin, dass es sich nicht um Fotos handelt, die zu unterschiedlichen Zeitpunkten aufgenommen wurden. So befindet sich beispielsweise die Kette, die die Person hinter der festgenommenen Levy Armstrong trägt, an derselben Stelle, ebenso wie die Lampen und die Umrisse der Fenster im Hintergrund.
Jordan Kushner, Anwalt von Levy Armstrong, sagte gegenüber US-Faktencheckern von AP, er sei bei der Festnahme seiner Mandantin dabei gewesen und erklärte, alle von der Regierung veröffentlichten Videos und Fotos, die Armstrong weinend zeigten, seien manipuliert. Seine Mandantin sei in dieser Situation ruhig und gelassen gewesen.
Auf Nachfrage von Medien dementierte das Weiße Haus die Bildmanipulation nicht, ein Sprecher wies jedoch die Kritik daran zurück.
Das Weiße Haus teilte ein KI-Fake von der Festnahme Levy Armstrongs, auf dem ihr Gesichtsausdruck verfälscht ist.
Fazit
Videos, die einen rollenden Mittelfinger und eine rasende Oma bei ICE-Protesten in den USA zeigen sollen, sind KI-generiert und stammen von Satire-Accounts. Sie wurden teils millionenfach geklickt und täuschten viele Userinnen und User, auch weil viele den Protest gegen die ICE-Einsätze in Minnesota teilen und sie ihre Haltung in den Videos wiederfinden.
Aber auch das Weiße Haus hat ein Foto einer festgenommenen Aktivistin manipuliert und die Frau weinend dargestellt, obwohl Originalbilder zeigen, dass sie im Moment der Aufnahme gefasst reagierte.
Quellen:
Heise online: Weißes Haus verbreitet KI-manipulierte Aufnahme von festgenommener Aktivistin
Lead Stories: Fact Check: 'Chair chase' video of ICE agents chasing huge hand giving 'the finger' on Minneapolis street is NOT real
Snopes: Does video show ICE agents chasing older woman on mobility scooter?
Tagesschau: "Minnesota wäre besser dran, wenn es zu Kanada gehört"
Yahoo! news/Lead Stories: Fact check: FAKE photo shows activist Nekima Levy Armstrong crying during arrest in FBI's Minnesota 'church riot' case
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!