Auf der Plattform X (früher Twitter) testen Nutzer derzeit die Grenzen des guten Geschmacks aus – und die des Gesetzes. Auslöser ist eine neue Funktion der Künstlichen Intelligenz Grok, die Fotos auf Knopfdruck verändert. Was dabei herauskommt, schwankt zwischen absurdem Humor und verstörenden Entgleisungen: So wurde ein einfacher Toaster mit einem Bikini bekleidet, außerdem eine Space-X-Rakete, der ehemalige FC-Bayern-Torhüter Oliver Kahn und natürlich auch, auf eigenen Wunsch, der X-Eigentümer Elon Musk selbst.
Wenn der Spaß aufhört
Doch was manche Nutzer als "radikale Freiheit" oder schwarzen Humor zelebrieren, offenbart gravierende Sicherheitslücken. Die Technologie unterscheidet nicht zwischen einem Witz, einer geschmacklosen Provokation und einem mutmaßlichen Verstoß gegen geltendes Recht. Dieselbe Funktion, die Politikern Badekleidung anzieht, wird massenhaft genutzt, um Frauen ohne deren Einwilligung digital zu entblößen.
Besonders alarmierend ist das Versagen beim Jugendschutz. Berichten zufolge generierte die KI anstandslos sexualisierte Bilder von Minderjährigen. In dokumentierten Fällen war sich die Software sogar des jugendlichen Alters der abgebildeten Personen bewusst, führte den Befehl zur Manipulation aber dennoch aus. Das Ergebnis sind täuschend echte Fälschungen, die für die Betroffenen psychische und soziale Folgen haben können.
Zynismus statt Verantwortung
Der Umgang des Unternehmens mit dieser Problematik wirkt auf Beobachter befremdlich. Während Experten und Betroffene Alarm schlagen, reagierte Elon Musk auf die Kritik vorwiegend mit Spott. Er kommentierte Beschwerden mit lachenden Emojis oder teilte selbst generierte Bikini-Bilder. Auf journalistische Anfragen antwortet seine Firma mittlerweile standardisiert mit beleidigenden Textbausteinen über die Medienlandschaft.
Im starken Kontrast dazu steht die Reaktion der KI selbst. Über den offiziellen Account des Chatbots wurden Statements verbreitet, die Fehler in den Sicherheitsvorkehrungen einräumen. Die Maschine betonte, dass die Verbreitung von missbräuchlichem Material illegal sei und man die Lücken schließen wolle. Dass die Software Reue zeigt, während die Unternehmensführung den Vorfall ins Lächerliche zieht, sorgt für zusätzliche Irritation.
Justiz wird aktiv
Die bloße Entschuldigung eines Computerprogramms reicht den Behörden jedoch nicht aus. Da die Erstellung und Verbreitung solcher Bilder Straftatbestände erfüllen kann, haben französische Staatsanwälte Ermittlungen aufgenommen. Die aktuellen Vorfälle sollen in bereits laufende Verfahren gegen die Plattform integriert werden. Auch indische Regierungsstellen haben das Unternehmen unter Androhung von Konsequenzen aufgefordert, darzulegen, wie solche Inhalte künftig technisch unterbunden werden sollen.
🎧 Wie verändert KI unser Leben? Und welche KI-Programme sind in meinem Alltag wirklich wichtig? Antworten auf diese und weitere Fragen diskutieren Gregor Schmalzried, Marie Kilg und Fritz Espenlaub jede Woche in "Der KI-Podcast" – dem Podcast von BR24 und SWR.
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!