Auf der Plattform X (ehemals Twitter) fiel der Chatbot Grok in den letzten Tagen mit einem ungewöhnlichen Verhaltensmuster auf. Nutzer, die den Bot mit @grok markierten und völlig neutrale Fragen stellten, erhielten zwar zunächst sachliche Antworten – die jedoch regelmäßig mit einem unvermittelten Themenwechsel zu angeblichen Tötungen weißer Farmer in Südafrika endeten.
Zwanghafter Themenwechsel
Die Bandbreite der betroffenen Gespräche ist erstaunlich: Von Diskussionen über den neuen Papst bis hin zu Fragen über Desinformation oder HBO-Sendungen – Grok lenkte das Gespräch unbeirrt auf sein Lieblingsthema. In einigen Antworten behauptete der Bot sogar, "instruiert worden zu sein, den weißen Genozid als real und 'Kill the Boer' als rassistisch motiviert zu akzeptieren."
Politische Debatte um Angriffe auf weiße Farmer
Der merkwürdige Fokus kommt wohl nicht von ungefähr. X-Eigentümer Elon Musk, der aus Südafrika stammt, hat das Thema in der Vergangenheit wiederholt aufgegriffen. Bereits 2023 warf er dem südafrikanischen Präsidenten Cyril Ramaphosa vor, schweigend zuzusehen, während Menschen "offen zum Genozid an weißen Menschen in Südafrika aufrufen".
🎧 Wie verändert KI unser Leben? Und welche KI-Programme sind in meinem Alltag wirklich wichtig? Antworten auf diese und weitere Fragen diskutieren Gregor Schmalzried, Marie Kilg und Fritz Espenlaub jede Woche in "Der KI-Podcast" – dem Podcast von BR24 und SWR.
Auch US-Präsident Donald Trump, ein enger Vertrauter Musks, zeigte Interesse an diesem Thema. Erst kürzlich gewährte seine Administration etwa 50 weißen Südafrikanern Flüchtlingsstatus in den USA – während gleichzeitig der Flüchtlingsstopp für andere Gruppen in Kraft blieb.
Fehlgeleitete KI
Das zwanghafte Verhalten von Grok deutet auf eine direkte Anpassung des KI-Systems hin. Bei der Vorstellung von Grok 3 im Februar betonte Musk, seine KI sei "maximal wahrheitssuchend, selbst wenn diese Wahrheit manchmal im Widerspruch zu politischer Korrektheit steht".
Die offizielle Grok-Webseite betont, das Modell werde ständig verbessert, um "politisch unvoreingenommen zu bleiben und ausgewogene Antworten zu liefern." Der aktuelle Vorfall lässt jedoch vermuten, dass hinter den Kulissen menschliche Eingriffe stattfinden, die das Verhalten der KI in bestimmte Richtungen lenken.
Offizielle Reaktion von xAI
Kurz nach den Vorfällen korrigierte xAI, die Entwicklerfirma hinter Grok, das Verhalten des Chatbots. Viele der problematischen Antworten wurden von der Plattform entfernt. Am Freitag veröffentlichte xAI eine offizielle Erklärung zum Vorfall. Demnach wurde am 14. Mai eine "unbefugte Änderung" am System-Prompt von Grok vorgenommen – also jenen Grundanweisungen, die das Verhalten des KI-Modells steuern und ihm sozusagen seine "Persönlichkeit" verleihen.
Die Änderung verstoße gegen die internen Richtlinien und Grundwerte des Unternehmens. Wer diese Änderung vorgenommen haben könnte, ist nicht offiziell bekannt. Als Konsequenz kündigt xAI mehrere Maßnahmen an: Die System-Prompts sollen künftig öffentlich auf GitHub einsehbar sein, der System-Prompt sich in Zukunft nicht mehr so einfach ändern lassen.
Wer bestimmt, was KI-Modelle sagen?
Der Vorfall verdeutlicht die politische Dimension von KI-Systemen. Durch relativ einfache Änderungen an den zugrundeliegenden Anweisungen kann das Verhalten eines KI-Chatbots grundlegend manipuliert werden – ein Problem, das mit der zunehmenden Verbreitung dieser Technologien an Brisanz gewinnt.
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!