Auf den ersten Blick sieht alles genau aus wie bisher. Auf den zweiten... auch. Tatsächlich ist es für einen Menschen unmöglich zu erkennen, dass an diesem KI-generierten Text etwas anders sein soll als an jedem anderen. Aber Satz, den der Chatbot Claude von der Firma Anthropic in Zukunft ausspuckt, soll mit einem unsichtbaren Stempel versehen sein. Lesbar nicht für Menschen, aber wohl für Maschinen.
Wie funktioniert die Markierung?
Die unsichtbare Markierung steckt dabei im Text selbst, nicht in Metadaten oder Eigenschaften der Datei. Das bedeutet, auch wenn man den Text kopiert oder anderswo wieder einfügt, bleibt die Markierung erhalten.
Wie das Wasserzeichen genau funktionieren soll, darüber schweigt sich Anthropic bislang aus. Eine Möglichkeit wäre, dass es sich um die "Green Flag/Red Flag"-Methode handeln könnte, die schon seit einigen Jahren technisch erforscht wird.
Dabei schreibt das Sprachmodell Wort für Wort und hat an jeder Stelle mehrere passende Fortsetzungen zur Auswahl. Vor jeder dieser Entscheidungen wird der gesamte Wortschatz per Zufallsschlüssel in zwei Hälften geteilt, eine bevorzugte und eine benachteiligte. Die bevorzugte Hälfte bekommt dann einen minimalen Vorsprung. Das bedeutet: einzeln betrachtet ist kein Unterschied erkennbar. Jedes gewählte Wort ist eines, was das Modell ohnehin hätte nehmen können. Erst über einen längeren Text hinweg zeigt sich, dass die eine Hälfte bevorzugt wurde. Überprüfen kann man das aber nur, wenn man den Zufallsschlüssel kennt.
Das bedeutet, der Text könnte gesichert als KI-generiert identifiziert werden. Allerdings nur, wenn er eine gewisse Länge hat und nicht stark nachbearbeitet wurde. Außerdem würde er nicht beweisen, dass die eigentliche Denkarbeit von der KI kam. Wer beispielsweise einen Text selber schreibt und dann nur von der KI umformulieren lässt, der wäre wohl auch von dem Wasserzeichen betroffen.
🎧 Wie verändert KI unser Leben? Und welche KI-Programme sind in meinem Alltag wirklich wichtig? Antworten auf diese und weitere Fragen diskutieren Gregor Schmalzried, Marie Kilg und Fritz Espenlaub jede Woche in "Der KI-Podcast" – dem Podcast von BR24 und SWR.
Neue EU-Regeln
Anthropic geht diesen Schritt nicht ohne Grund. Stattdessen setzen sie damit einen Teil des EU AI Acts um, der seit dem 2. August gilt. Darin steht, dass Anbieter von generativer KI wie ChatGPT oder Claude ihre Ausgaben so kennzeichnen müssen, dass Maschinen sie als KI generiert-erkennen können.
Die Verordnung schreibt dabei keine bestimmte Markierung vor. Auch andere technische Lösungen wären denkbar. Da die meisten großen KI-Anbieter sich jedoch oft aneinander angleichen, ist damit zu rechnen, dass andere Anbieter wie ChatGPT auf ähnliche Lösungen zurückgreifen dürften.
Google Gemini markiert in der Theorie schon länger Texte mit einer Technologie namens "SynthID", diese ist aber bislang nur durch Google selbst auflösbar.
Wird der Output schlechter?
Die Europäische Union erhofft sich damit mehr Transparenz darüber, was von Menschen und und was von Maschinen erstellt wurde. Unter Fachleuten, insbesondere Entwicklern, gibt es jedoch auch kritische Stimmen. Eine Sorge ist, dass die Ergebnisse der KI schlechter werden könnten, wenn sie sich an die Wasserzeichenregel halten muss, anstatt einfach das beste Ergebnis auszuliefern.
Anthropic zufolge soll das Wasserzeichen keinen Einfluss auf Qualität haben. In der Praxis lässt sich das jedoch bislang nicht überprüfen.
Und klar ist auch, im Zweifelsfall lassen sich Wasserzeichen immer noch entfernen. Insbesondere Open-Source-Modelle, von denen gerade in China viele entwickelt werden, könnten auch in Zukunft einen einfachen Weg bieten, einen KI-generierten Text ohne Markierung herzustellen.
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!