Es war die vielleicht ungewöhnlichste Online-Buchung aller Zeiten: Andrew, ein KI-Nutzer aus Melbourne, hatte es eigentlich nur auf einen der begehrten Kursplätze in seinem Fitness-Studio abgesehen. Also entschied er sich, einen KI-Agenten zu Hilfe zu nehmen: die frei verfügbare Software OpenClaw. Und tatsächlich – der KI-Agent stellte schnell fest, dass er frei auf die Schnittstelle des Fitness-Buchungssystems zugreifen konnte. Kurzerhand entschied er sich, Andrew auf Platz 1 der Buchungslisten zu setzen. Das einzige Problem: Ein anderer Nutzer wurde dafür gelöscht.
Ohne dass Andrew es darauf abgesehen hatte, war sein KI-Agent zum Hacker geworden. Andrew hätte den Fall – und den Platz im Kurs – für sich behalten können. Stattdessen ging er an die Öffentlichkeit und der australische Sender ABC berichtete.
Ist das Internet auf einmal unsicherer?
Der Fall aus Melbourne ist nur die aktuellste Geschichte. Vor dem Jahr 2026 musste man sich im Internet nur über menschliche Hacker Gedanken machen – ab sofort treiben dort auch KI-Hacker ihr Unwesen. Der bisher bekannteste Fall wurde vor einem Monat bekannt: Ein unfertiges KI-System von OpenAI hatte sich in die internen Systeme der Online-Plattform HuggingFace gehackt. Kurz darauf berichteten auch andere KI-Unternehmen von ähnlichen Vorfällen.
Das britische AI Security Institute (AISI) beobachtet, dass sich die Cyberfähigkeiten der stärksten KI-Modelle alle paar Monate verdoppeln – vor drei Jahren schafften die besten Modelle kaum den ersten Schritt eines Angriffs, heute können die neuesten Systeme komplette Netzwerke unter ihre Kontrolle bringen. Sicherheitslücken in Software gab es schon immer. Aber KI-Agenten spüren die Schwachstellen heute ganz automatisiert auf und können sofort mit ihrer Attacke beginnen.
🎧 Wie verändert KI unser Leben? Und welche KI-Programme sind in meinem Alltag wirklich wichtig? Antworten auf diese und weitere Fragen diskutieren Gregor Schmalzried, Marie Kilg und Fritz Espenlaub jede Woche in "Der KI-Podcast" – dem Podcast von BR24 und SWR.
Wie kommt es zu den Hacks?
Anders als oft angenommen wird, haben die KIs in den bisher dokumentierten Fällen sich nicht selbständig für das Ziel der Hacker-Angriffe entschieden. Stattdessen wurden die KI-Modelle meist in Testumgebungen mit bestimmten Aufgaben betreut – etwa dem Lösen eines Cybersicherheits-Tests. Da die KI-Systeme aber in der Regel ausschließlich auf das Lösen des Problems optimiert sind und nicht auf die Absicht der Tester, haben sie in einigen Fällen zu Maßnahmen gegriffen, mit denen selbst die KI-Entwickler nicht gerechnet haben.
Allerdings könnten Fälle dieser Art bald auch mit Absicht ausgeführt werden. Die stärksten Hacking-Fähigkeiten stecken bislang in den geschlossenen Modellen von OpenAI und Anthropic, die nur kontrolliert zugänglich sind. Frei herunterladbare offene Modelle, viele davon aus China, liegen aber nur wenige Monate zurück. Was heute wenigen Laboren vorbehalten ist, kann sich in absehbarer Zeit jeder herunterladen und nach Belieben umbauen – also autoritäre Staaten, Terroristen und Kriminelle. Einige Experten, darunter der frühere Meta-Sicherheitschef Alex Stamos, rechnen damit, dass das Internet unsicherer werden könnte.
Was kann ich tun?
Für Privatpersonen heißt das: Digitale Sicherheit wird vermutlich wichtiger denn je. Passwörter nicht wiederzuverwenden (am besten mit der Hilfe eines Passwortmanagers), überall die Zwei-Faktor-Authentifizierung einzuschalten und im Zweifelsfall auch auf "Passkeys" – eine neuartige Alternative zum Passwort – zurückzugreifen. Auch sollte man dringend seine Apps und Betriebssysteme up to date halten und besonders bei fremden E-Mails und Nachrichten aufpassen, sodass man kein Opfer von Phishing-Attacken wird. Diese Tipps waren schon immer sinnvoll – im KI-Zeitalter könnten sie aber noch weit wichtiger werden.
Auch für Unternehmen wird Cybersicherheit immer wichtiger. Wie die IHK Bayern meldet, wurde im vergangenen Jahr jeder fünfte Betrieb in Bayern Opfer von mindestens einem Cyberangriff. Oft handelt es sich hier um Ransomware-Attacken, die bis zur Insolvenz des Unternehmens führen können.
In Deutschland und Europa stehen Unternehmen und Behörden dabei vor einem gefährlichen Dilemma. Einerseits möchte man vermehrt auf "digitale Souveränität" setzen und vor allem europäische KI-Modelle verwenden. Allerdings hinkt auch der beste europäische KI-Entwickler, die französische Firma Mistral, weit hinter den Fähigkeiten von OpenAI & Co. zurück. Wer nur europäische KI nutzt, ist damit also datenschutztechnisch auf der sicheren Seite – aber auch leichter verwundbar.
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!