Zwei Monate nach einem ersten Hacker-Vorfall durch seine eigene Künstliche Intelligenz (KI) kämpft der ChatGPT-Entwickler OpenAI mit einem neuen Datenleck. Wie das US-Unternehmen am Freitag mitteilte, haben sogenannte KI-Agenten 53 Mal Bilder von ChatGPT-Nutzern auf Online-Plattformen platziert. Ob es sich dabei um echte Personen oder KI-generierte Bilder handelte und wann diese gepostet wurden, ließ OpenAI offen.
Ein Großteil der Bilder sei bereits wieder entfernt worden und man arbeite mit den Plattformen daran, auch den Rest zu löschen. Es ist der erste bekanntgewordene Vorfall, bei dem auch Daten von OpenAI-Nutzern betroffen waren.
- Zum Podcast: GPT6-Astra - und: Müssen wir KI aufhalten?
Automatisierte KI-Agenten auf US-Regierungs-Webseiten
Wenig später wurde zudem bekannt, dass automatisierte KI-Agenten von OpenAI auch auf mehreren Webseiten der US-Regierung aktiv waren. So habe die Software auf der Seite einer Statistikbehörde mit Hilfe von im Netz entdeckten Logindaten auf öffentlich zugängliche Informationen zugegriffen, teilte OpenAI nach einem Bericht der KI-Forschungsfirma Transluce mit.
Auf der Seite der Börsenaufsicht SEC seien ebenfalls öffentlich zugängliche Informationen kopiert worden. Beim US-Bildungsministerium versuchte die KI-Software laut Transluce vergeblich, in Daten der Bürgerrechtsabteilung zu hacken, wie die "New York Times" berichtete.
Derweil deutete sich an, dass noch viele weitere Enthüllungen um eigenständige Hacking-Aktivitäten der KI von OpenAI folgen könnten. Man habe "Dutzende" Organisationen informiert, mit deren Webseiten Software von OpenAI auf ungeplante Weise "interagiert" habe, teilte die KI-Firma mit. Man überlasse es ihnen, die Vorfälle öffentlich zu machen.
Zuletzt hatte die Regierung Australiens für Schlagzeilen gesorgt mit der Mitteilung, dass KI von OpenAI in eine Website des australischen Gesundheitssystems eingedrungen war.
OpenAI: Bilder ohne Verknüpfung zu Accounts
Im Fall der ins Netz geladenen Nutzer-Bilder verwies OpenAI darauf, dass die hochgeladenen Bilder von Nutzern stammten, die der Verwendung ihrer Daten zur Verbesserung der KI-Modelle zugestimmt hätten. Dabei würden personenbezogene Daten und die Verknüpfung zu konkreten Accounts entfernt und könnten auch nicht wiederhergestellt werden. OpenAI äußerte sich auf Anfrage nicht dazu, ob es sich um 53 Bilder handelte oder pro Vorgang mehrere Bilder hochgeladen worden sein könnten.
Das Eingeständnis ist die nächste Enthüllung in der Saga um KI, die in Testläufen – zunächst unbemerkt – problematisches Vorgehen an den Tag legte. In dem bisher aufsehenerregendsten Fall brach Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und drang ungeplant in Computer einer anderen KI-Firma ein, der Plattform HuggingFace.
Das veranlasste den Rivalen Anthropic, seine eigenen Testläufe zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Auch der Facebook-Konzern Meta und Google räumten danach ein, dass ihre KI sich Zugang zu Computern anderer Unternehmen verschafft hatte.
Zuletzt hatten sich in den USA führende KI-Firmen wie Anthropic und OpenAI nach eigenständigen Hacking-Attacken dafür ausgesprochen, die Entwicklung Künstlicher Intelligenz abzubremsen. US-Präsident Donald Trump betont unterdessen, dass er trotz Warnungen vor existenziellen Risiken der Technologie auf eine beschleunigte KI-Entwicklung in den USA setzen will.
Digitalminister Wildberger fordert internationale KI-Kontrolle
Bundesdigitalminister Karsten Wildberger (CDU) dringt einem Medienbericht zufolge auf eine stärkere internationale Zusammenarbeit bei der Regulierung von Künstlicher Intelligenz (KI). "Wir sind als Menschheit absolut in der Lage, das Problem zu lösen. Wir sind weder der KI noch der Situation hilflos ausgeliefert", sagte der Politiker in einem Interview der Funke Mediengruppe (externer Link, möglicherweise Bezahlinhalt). Er sehe gute Chancen für eine internationale Vereinbarung, etwa einen Sicherheitskatalog, der KI-Programme nach dem neuesten Stand der Technik überprüfe. Wildberger nannte die Internationale Atomenergiebehörde als Vorbild. Es müsse jedoch geklärt werden, wie eine solche Kontrolle angesichts der rasanten technologischen Entwicklung organisiert werden könne.
Der Minister nahm zudem die Entwickler von KI-Technologien in die Pflicht. Unternehmen trügen die Verantwortung dafür, dass ihre Produkte nicht gefährlich würden. Die KI dürfe keine eigenständigen Hackerangriffe vornehmen und keine Daten stehlen. Die Firmen müssten für derartige Straftaten haftbar gemacht werden.
Mit Informationen von dpa und Reuters
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!