Viele Deepfakes entstehen durch die Nachbearbeitung bestehender Bilder vor allem mittels künstlicher Intelligenz (KI). Die ist inzwischen so gut, dass es immer schwerer wird, Manipulationen zu erkennen. Durch die Glaubwürdigkeit, die diese Bilder oder Videos erreichen, können Fakten verdreht und unwahre politische Botschaften gesendet oder untermauert werden.
Kennzeichnungspflicht in der EU seit Anfang August
Die Europäische Union hat deswegen seit Anfang August verpflichtende Kennzeichnungsregeln für Bilder eingeführt, die mittels KI erstellt oder verändert wurden. Doch der Nachweis, ob und wenn was genau gemacht wurde, ist nicht immer nachvollziehbar. Schon vorher hatten einige namhafte Kamerahersteller deswegen mit dem C2PA-Standard (Coalition for Content Provenance and Authenticity) versucht, durch unsichtbare Wasserzeichen, die softwareseitig in die Bilder eingebettet sind, Veränderungen zu dokumentieren.
Wasserzeichen dokumentiert Veränderungen
Beim C2PA-Standard werden nachträgliche Bearbeitungen im Wasserzeichen notiert. Später kann man diese Informationen auslesen, sodass man sie nachverfolgen kann. Doch das System hat Schwächen: Wird ein Screenshot eines Bildes erstellt oder das Foto auf eine Social-Media-Plattform hochgeladen, werden die Metadaten entfernt und die Nachweiskette wird unbrauchbar. Zudem sagt selbst eine ununterbrochene Kette von Metadaten nichts über die Authentizität des ursprünglichen Bildes.
Andere Lösung: Spezieller Chip und öffentliche Datenbank
Eine Entwicklung der Eidgenössischen Technischen Hochschule (ETH) Zürich [externer Link] soll auf anderem Weg jegliche Manipulation an Realaufnahmen sofort erkennbar machen. Durch eine spezielle Sensortechnologie werden Bilder, Videos oder auch Tonaufnahmen direkt bei der Aufnahme in der Kamera durch einen speziellen Chip unsichtbar signiert. Jegliche nachträgliche Manipulation zerstört diese Signatur und zeigt, dass das Bild verändert wurde.
Datenbank zum Beispiel auf Basis von Blockchain
Die Signatur selbst wird in einem öffentlich zugänglichen Verzeichnis abgespeichert. Dabei könnte zum Beispiel die Blockchain-Technik zum Einsatz kommen, die auch bei Kryptowährungen verwendet wird. Dadurch könnten Medien oder Internetplattformen vor der Veröffentlichung von Bildern oder Videos schnell prüfen, ob die Aufnahmen authentisch und unverändert sind.
KI-Grafik: So funktioniert die Methode der ETH Zürich
Wo liegt die Grenze bei Veränderungen?
Unklar ist, ob möglicherweise auch kleine Veränderungen – beispielsweise Helligkeits- oder Schärfekorrekturen – die Signatur bereits ungültig machen. Das würde die Arbeit vieler Fotografen enorm erschweren, weil bereits bei der Aufnahme das perfekte Bild entstehen müsste. In vielen Situationen außerhalb eines Fotostudios ist das aber kaum möglich. Genau diese Bilder zum Beispiel von aktuellen Ereignissen sind jedoch sehr oft von Deepfake-Manipulationen betroffen.
Beste Methode: der kritische Blick
Noch ist der Chip ein Prototyp und die Umsetzung für die Produktion ist in der Entwicklung. Da aber gibt es eine weitere Hürde für die durchschlagende Wirksamkeit dieser Zertifizierungs-Methode: Es müssten sich möglichst alle Hersteller von Foto-, Video-, und auch Smartphone-Kameras beteiligen und den Chip einbauen. Das scheint bei der derzeitigen Vielfalt an Herstellern und Standards eher unwahrscheinlich. Und so bleibt wohl bis auf weiteres nur, jedes Bild sehr kritisch zu betrachten und im Zweifel weitere Quellen zur Verifizierung heranzuziehen.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!