KI-manipulierte Bilder: Das trügerische Spiel mit der Unschärfe

Darum geht’s:

• KI-generierte Bilder können entlarvt werden – wie wir am Beispiel eines Fake-Bilds zeigen, auf dem Trump eine Frau küsst. Nachträgliche Unschärfe macht es allerdings schwerer, den Fake zu erkennen.
• Zugleich täuschen auch echte Bilder etwas vor, die mit KI geschärft wurden – und bei denen die KI dann zum Beispiel Gesichter erfunden hat.
• Experten sagen: Solche Täuschungen sind auch ein Problem für die Glaubwürdigkeit von Bildern und Medien insgesamt. Doch es gibt Tipps, wie man sich orientieren kann.

US-Präsident Donald Trump küsst vermeintlich eine junge Frau, die seiner Assistentin Natalie Harp ähnelt. Der angebliche Schnappschuss ist unscharf – und wirkt wie ein Paparazzi-Bild. Das Bild kursierte kürzlich auf Social Media, verbreitete sich stark – und ist ursprünglich KI-generiert. Das Beispiel zeigt: KI-Bilder sind manchmal besonders täuschend, wenn sie nicht scharf erscheinen. Denn das suggeriert Authentizität und kann Bildfehler verwischen.

Dieser #Faktenfuchs zeigt anhand von Beispielen, wie solche Manöver mit Hilfe von KI aussehen und dabei auch das Vertrauen in die eigenen Fähigkeiten angegriffen wird. Und er zeigt Methoden, um den Täuschungen auf die Spur zu kommen.

Unschärfe als Verschleierungstaktik

Das Bild, auf dem Trump eine blonde Frau auf einem Golfplatz küsst, war für Trump-Gegner ein klassischer Fall von "zu schön, um wahr zu sein". Denn Experten kamen zu dem Schluss: Ursprünglich war das Bild aller Wahrscheinlichkeit nach KI-generiert. Es knüpfte an Berichte in den Wochen vorher an, die über Trumps Beziehung zu der Mitarbeiterin spekuliert hatten.

Das mit KI erstellte Bild lieferte ein scheinbares Beweisbild für ein romantisches Verhältnis außerhalb seiner Ehe. Es war ursprünglich scharf und enthielt verräterische falsche Details. So hat die Frau auf dem Bild sechs Finger. Und wenn man das Bild ins Test-Tool von Open AI hochlädt, erkennt dieses ein SynthID Watermark: ein maschinenlesbares Wasserzeichen, das die Herkunft eines Bildes aus einem bestimmten KI-Generator bezeugt. Ein klarer Fall eigentlich.

Das Problem: Es kursierte auch eine unscharfe Version davon. Bildfehler sind darin kaschiert. Und das Wasserzeichen fehlt. Die Behauptung: "Das ist das Originalbild."

Bildanalyst und Digitalforensiker Hany Farid schrieb auf LinkedIn, das wahrscheinlichste Szenario sei: "Das Bild ist KI-generiert und die Varianten wurden mit dem Ziel erstellt, visuelle Anomalien und/oder Wasserzeichen zu verschleiern." Der Informatiker lehrt am Dartmouth College in den USA und leitet eine Firma für Cybersecurity, spezialisiert auf KI.

Ein Täuschungsversuch also durch mutmaßlich absichtliches Unscharfmachen eines KI-Fakes. Christian Riess ist Informatiker am IT Security Infrastructures Lab der Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU) und sagt im Gespräch mit dem #Faktenfuchs: Solche Bearbeitungen veränderten die Darstellung des Bilds, auch auf der Ebene der Pixel, der winzig kleinen Bildpunkte, aus denen sich das Bild zusammensetzt, und auf der Ebene von mathematischen Mustern und Zusammenhängen der Bildpunkte, die für das menschliche Auge unsichtbar sind.

Spuren der Verarbeitung würden so unterdrückt, verwischt oder sogar komplett entfernt – etwa ein Wasserzeichen, durch das man auf den KI-Generator rückschließen könne, oder forensische Spuren, wie bestimmte Pixelmuster, die für bestimmte Generatoren typisch seien. Forensische Spuren heißt hier also: digitale Abweichungen, die bei der Erstellung oder Bearbeitung von Fälschungen entstehen. "Damit hat dann die Bearbeitung den Charakter eines Angriffs – auf die Erkennungssysteme oder auf Faktenchecker, die feststellen wollen, ist das ein echtes Bild oder ein generiertes Bild."

Der umgekehrte Weg: Täuschung durch Schärfung

Es gibt noch eine weitere Manipulations-Taktik: Echte Bilder mithilfe der KI nicht unschärfer, sondern schärfer machen oder ergänzen. Das kann dazu führen, dass die KI Informationen und Gesichter erfindet, die mit der Realität nichts zu tun haben. Ein aktuelles Beispiel kommt aus Großbritannien. Kürzlich nahm die britische Polizei fünf Männer fest, die im Verdacht stehen, einen Angriff auf eine Militärbasis der U.S. Air Force, RAF Fairford, vorbereitet zu haben.

Es kursierten Varianten eines Bilds von den fünf Männern, wie sie am Boden sitzen, die Hände auf dem Rücken offenbar in Handschellen. Auf einer unscharfen Variante sind die Gesichter nicht zu erkennen, auf einer scharfen Variante sind Gesichter erkennbar. Die BBC prüfte die Varianten. Während Experten von BBC Verify die Quelle des unscharfen Bildes nicht herausfinden konnten, war es möglich, den genauen Ort der Aufnahme zu überprüfen und in Einklang mit dem Bild zu bringen.

Deshalb ordnet BBC Verify das Bild als authentisch ein. Doch die scharfe Version sei KI-manipuliert, schreibt Shayan Sardarizadeh, Journalist bei BBC Verify auf LinkedIn: "Ein SynthID-Test enthüllt, dass das KI-verbesserte Bild mit OpenAI generiert wurde." In verschiedenen geschärften Versionen haben die Männer unterschiedliche Gesichter.

Das Problem, schreibt Sardarizadeh weiter: "Grobkörnige Bilder und Videos mit generativer KI zu verbessern, um Schlüsseldetails – wie Gesichter, Schrift, Örtlichkeiten, Logos etc. – zu identifizieren, führt oft zu ungenauen und unzuverlässigen Ergebnissen." Das liege daran, dass KI-Modelle nicht wissen, wie die fehlenden Details in einem echten, aber grobkörnigen Bild oder Video aussehen. "Sie generieren diese Details auf Basis von fehlerhaftem Raten, nicht von tatsächlichen Daten."

Diese Einschätzung teilt Forensiker Martin Steinebach, Leiter der Abteilung Media Security und IT Forensics am Fraunhofer-Institut für Sichere Informationstechnologie SIT: "Diese Enhance-Strategien, um ein Gesicht erkenntlich zu machen: Wenn das mit KI gemacht wird, ist das, glaube ich, ein gefährliches Spiel, weil die halt dann eher so die wahrscheinlichsten Gesichter erzeugen wird, aber nicht die tatsächlichen Gesichter."

Weitergedacht könne das auch handfeste Folgen haben, meint Maria Pawelec. Sie ist Politikwissenschaftlerin und Deepfake-Forscherin am Internationalen Zentrum für Ethik in den Wissenschaften (IZEW). Es könne etwa dazu führen, dass unschuldige Personen diskreditiert werden, einfach weil sie den KI-generierten Gesichtern ähneln. "Oder – sogar das wäre möglich –, dass man die KI absichtlich mit Gesichtern von bestimmten Personen füttert und sagt, 'Projiziere mir mal diese Gesichter auf dieses Bild', um den Ruf von Menschen zu ruinieren und sie zum Beispiel unrechtmäßig verhaften zu lassen."

Nicht jede Manipulation hinterlässt ein digitales Wasserzeichen

Auf welche Weise eine Manipulation in ein Bild kommt, ist nicht immer einfach festzustellen, sagt Steinebach. Ein KI-Bildgenerator würde das Bild quasi neu erzeugen, so Steinebach, nicht einfach nur bearbeiten. Ein Wasserzeichen hinterlässt das Programm dabei nicht zwingend.

Denn erstens: "Nicht alles, was generiert ist, wird markiert", sagt Informatiker Riess. Er hat als Co-Chair den "Code of Practice" zum Artikel 50 im EU AI Act mitverfasst – darin wird die Markierung von KI-generierten Inhalten für kommerzielle Plattformen wie OpenAI geregelt. "Die Regeln im AI Act der EU nehmen leichte Verbesserungen eines Bildes aus, etwa Kontrastveränderung." Eine fixe Definition oder genaue Grenzen dessen, was als solche Standardbearbeitung gilt, stehe nicht im AI Act.

Grundsätzlich müssten die Systeme eine KI-Markierung einführen, sobald eine Veränderung über der Schwelle liegt, sagt Riess. "Wenn aber eine Änderung lediglich kosmetischer Natur ist, würde eine Plattform möglicherweise kein neues Wasserzeichen einfügen."

Auch digitale Wasserzeichen sind umgehbar

Forensiker Steinebach sagt: Wenn eine minimale Nachbearbeitung, die das Bild nicht verändert, sofort ein Wasserzeichen bekomme, dann ermögliche auch das Täuschung: "Dann kann ich natürlich auch jedes beliebige Bild, das mir nicht gefällt, einmal durch den KI-Generator laufen lassen mit einer Nullrunde, und dann sag ich: 'Guck mal hier, hier ist das Foto, da ist ganz klar ein KI-Wasserzeichen drin und die ganzen anderen, die haben das Wasserzeichen nur entfernt'." Diese Taktik sei als sogenannte "Inversion Attack" beim Watermarking berüchtigt.

Der zweite Grund dafür, dass nicht jede Manipulation ein Wasserzeichen hinterlässt: Sie könnte auch durch einen Generator erzeugt worden sein, der nicht unter den EU AI Act fällt. Jakob Tesch von Gretchen AI, einer Firma, die ein Deepfake-Erkennungs-Tool anbietet und eine Ausgründung des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI) ist, sagt: "Es werden nicht immer die großen KI-Generatoren benutzt, um Enhancements zu machen." Es gebe auch viele Möglichkeiten zur Bildbearbeitung, die nicht generative KI seien – etwa "die Standardtools auf den Mobiltelefonen, um Bilder zu verändern".

Und es gibt noch einen dritten Grund für ein fehlendes Wasserzeichen: Es kann entfernt worden sein. Ein Wasserzeichen, das für Menschen sichtbar ist, ist ohnehin schnell weggeschnitten. Es ist auch möglich, das Einfügen des Wasserzeichens auszustellen. Aber auch maschinenlesbare Wasserzeichen sind – wenn auch schwieriger – manipulierbar und entfernbar. Zum Beispiel durch Kompression – also indem der Speicherbedarf eines digitalen Bilds reduziert wird. So kann ein KI-generiertes Bild als vermeintlich echtes Bild dargestellt werden. Auf Wasserzeichen könne man sich also nicht ausschließlich verlassen, fasst Pawelec zusammen. "Denn nur weil das nicht anschlägt, heißt es auf keinen Fall, dass es nicht KI-generiert oder -manipuliert ist."

Spuren jenseits von Wasserzeichen: auch nicht immer zu finden

Es gibt auch KI-basierte Detektoren, die versprechen, KI-generierte Bilder auch ohne Wasserzeichen zu erkennen. So einen baut Gretchen AI. Sie suchen bestimmte forensische Spuren in Bildern. Diese gingen auch über ein Wasserzeichen hinaus, sagt Tesch von Gretchen AI. Die Einschränkung: "Grundsätzlich gilt: Für jede forensische Spur oder Bearbeitung braucht es spezifische Trainingsansätze." Da einzelne Detektoren aber nicht für alle erdenklichen Manipulationsfälle trainiert sind, schlagen sie nicht zuverlässig an. Zudem laufe zwischen den Entwicklern von Erkennungsprogrammen und jenen, die sie umgehen wollen, ein Katz-und-Maus-Spiel.

Wie sehr kann man sich künftig auf das Entlarven von KI-Inhalten per Tool verlassen? Forensiker Steinebach sagt: "Eine einfache technische Lösung wird man nicht hinbekommen." Auch Pawelec vom IZEW sagt: "Deepfake-Detektoren sind immer fehlerbehaftet, nie perfekt, hinken immer der Deepfake-Entwicklung hinterher, sind immer wahrscheinlichkeitsbasiert."

Informatiker Reiss schließt daraus: "Die Idee, dass man ohne Gatekeeper Nachrichten konsumieren will, funktioniert vielleicht in kleinen Gesellschaften, in denen jeder jeden kennt, aber das funktioniert nicht unter Fremden. Diesen Prüfschritt, etwa von Journalisten, kann man nicht durch technische Lösungen oder so einfach erschlagen."

Welche Wirkung können KI-Manipulationen entfalten?

Je nach Art der Manipulation, nach Kontext und je nach Voreinstellungen der Person, der ihr begegnet, kann sie unterschiedlich auf uns wirken. German Neubaum ist Medienpsychologe an der Universität Duisburg-Essen. "Wenn wir etwas sehen, was schärfer und detailreicher ist, glaubt man im nächsten Moment: Ich habe beweisrelevante Informationen. Und damit ist auch die Sicherheit von meinem Urteil höher, dass das Gezeigte und meine Vermutung, dass es zu meinen Hintergrundinformationen passt, richtig sind." Das spiele eine Rolle dabei, für wie glaubwürdig wir ein Bild halten – unabhängig davon, ob das Bild tatsächlich echt ist.

Bei Aufnahmen von Augenzeugen, etwa bei Menschenrechtsverletzungen, erwarten wir hingegen eher, dass etwas unscharf und verwackelt und verpixelt ist, wie Pawelec sagt. "Ein ganz großes Problem gibt es etwa bei KI-generierten Missbrauchsdarstellungen von Kindern, weil die tatsächlich bisher häufig eher so sehr 'perfekt aussehend', perfekt ausgeleuchtet, in hoher Auflösung und so weiter waren." Das entspreche nicht dem, wie echte Missbrauchsdarstellungen von Kindern häufig aussähen. "Inzwischen ist es so, dass die KI besser wird und dadurch eben sozusagen schlechter ausgeleuchtete, amateurhaft wirkende Missbrauchsdarstellungen von Kindern generiert." Diese wirkten durch den Kontext und die Erwartungshaltung zu dieser Art von Aufnahme glaubwürdiger – und seien deswegen auch für Strafverfolgungsbehörden schwerer als KI-generiert einzustufen.

Unschärfe – auch künstlich erstellte – kann in bestimmten Kontexten also andersrum auch ein Hinweis darauf sein, dass etwas wahr sei. "Es wirkt authentisch, es kann aus dem Hintergrund geschossen worden sein, es kann in einer Dynamik aufgenommen worden sein." Auch das könne täuschen. "Das Problem ist, dass das eine verzerrte Entscheidungsfindung, eine verzerrte Meinungsbildung hervorrufen kann."

KI-manipulierte Bilder trügen auch zum generellen Vertrauensverlust in Medien bei, so Pawelec. Dazu, "dass sie immer mehr das Gefühl bekommen, dass sie eigentlich gar nichts mehr glauben können".

Wie können User auffällige Bilder prüfen?

Die Deepfake-Technologie sei zwar inzwischen so weit, dass KI-generierte Bilder oder Videos nur noch selten wirklich offensichtliche Unstimmigkeiten aufweisen wie die berühmten sechs Finger, sagt Pawelec vom IZEW. "Aber je nach Modell, je nach Inputdaten und auch technischem Know-how der Nutzenden gibt es durchaus noch Unstimmigkeiten, die wir als Menschen erkennen können."

Aber es gibt eben auch Bilder ohne solche auffälligen optischen Unstimmigkeiten. Da technische Lösungen fehlbar sind: Was hilft bei der Orientierung?

Unverzichtbar sind die Grundtechniken, Medien und Quellen zu überprüfen. Darin sind sich die Experten einig. Also: der Geschichte des Bildes oder auch der Tonspur auf den Grund gehen, zwischen seriösen und unseriösen Quellen unterscheiden können. Und auch zu wissen, dass bisweilen Material als KI-Fake dargestellt werde, obwohl es echt ist – in der Hoffnung, dass die Lüge Vorteile bringt. Informatiker Riess empfiehlt zum Beispiel eine Bilderrückwärtssuche. Die kann helfen, andere oder frühere Versionen von einem Bild zu finden, vielleicht sogar eine, die ein Wasserzeichen enthält.

Auch eine Regulierung der Plattformen allein reiche nicht aus, sagt Kognitions- und Medienforscher Nebaum. Warnungen zu Fakes, so Neubaum, helfen bisweilen nicht, selbst wenn sie gesehen werden. Einen Fake als solchen zu erkennen, reiche außerdem bisweilen nicht aus. Manche nutzten ein gefälschtes oder manipuliertes Bild für ihre Zwecke, obwohl sie es als Fake erkannt hätten – weil sie hoffen, dass es der Verbreitung der eigenen Weltsicht diene.

"Insbesondere dann, wenn diese Falschinformation in mein mentales Modell passt – dann glaube ich sie trotz Warnungen." Deshalb brauche es eine grundlegende Reflexionsfähigkeit, so Neubaum. Dabei gehe es nicht um eine allumfassende Skepsis, sondern auch um Offenheit für wahre Informationen. Dafür sei es wichtig, sich mit anderen auszutauschen. Nicht alle Themen sind für jeden gleich wichtig. Aber die Themen, die einem persönlich wichtig sind, solle man mit anderen Menschen besprechen, sagt Neubaum, und sich den ganzen Kontext zu einer Information zu erschließen.

Politikwissenschaftlerin Pawelec geht mit einem Tipp noch darüber hinaus: einen Schritt zurückzutreten und sich selbst zu beobachten. "Was macht das eigentlich mit mir? Werde ich gerade total emotionalisiert? Werde ich wütend, hasserfüllt, ängstlich? Hat jemand vielleicht ein Interesse daran, dass ich diese Botschaft glaube?" Das erfordere ein hohes Maß an Selbstreflexion. Aber es kann dabei helfen, die Ziele hinter den Bildern zu verstehen.

Fazit

Echte, aber unscharfe Bilder können mit Hilfe von KI vermeintlich geschärft werden. Dabei erfindet die KI allerdings zum Beispiel Gesichter, wenn sie die realen Gesichter nicht kennt. Umgekehrt kann die Qualität zum Beispiel von KI-generierten, scharfen Bildern auch absichtlich verschlechtert werden. Beides kann falsche Überzeugungen bestärken und die Glaubwürdigkeit in Medien untergraben.

User stehen vor der Herausforderung, dass sichtbare oder digitale Wasserzeichen durch Manipulationen umgangen oder verwischt werden können. Und auch Deepfake-Detektoren können digitale Spuren solcher Manipulationen nicht zuverlässig erkennen. Sich ausführlich mit auffälligen Bildern und Behauptungen – und mit den eigenen Voreinstellungen – zu befassen, kann aber helfen, Täuschungen zu entlarven.

Das ist die Europäische Perspektive bei BR24.

Quellen:

Interviews/Presseanfragen:

Martin Steinebach, Media Security und IT Forensics am Fraunhofer-Institut für Sichere Informationstechnologie SIT

Christian Rieß, IT Security Infrastructures Lab der Friedrich-Alexander Universität Erlangen-Nürnberg

Jakob Tesch, Gretchen AI

Maria Pawelec, Internationales Zentrum für Ethik in den Wissenschaften (IZEW)

German Neubaum, Universität Duisburg Essen

Veröffentlichungen

AP News, Air base at the center of a UK terror probe has been used by the US Air Force during the Iran war

BBC, Image of Trump kissing aide is fake

BBC, What we know about RAF Fairford counter-terror probe

BBC, Five arrested as counter-terror police investigate major incident near RAF Fairford

BR24 #Faktenfuchs, Ausrede KI: Wie Deepfakes Vertrauen in echte Inhalte zerstören

Code of Practice AI generated content

EU Artificial Intelligence Act

France24 English, RAF Fairford: AI-enhanced photos of suspects fuel false claims about their religion

Google, Wasserzeicheneinstellungen in Gemini-Apps verwalten

Internet Watch Foundation, AI-Generated Child Sexual Abuse: 2026 Report on Trends, Data & Human Impact

Newsweek, Fact Check: Is Photo of Trump Kissing Natalie Harp on Golf Course Real?

OpenAI, Von OpenAI generierte Inhalte verifizieren

Shayan Sardarizadeh, LinkedIn

SynthID Detector

The New York Times, An image of Trump kissing a woman is fake. It spread anyway

The New York Times, 'With all my heart, Natalie'. Trump’s most devoted aide emerges

Time, What to Know About Trump’s Aide Natalie Harp

"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!