Nach dem Schock eigenständiger Hacking-Attacken durch Künstliche Intelligenz fordert der Chef des großen KI-Labors Anthropic, die Entwicklung der Technologie zu verlangsamen. Er sei nun besorgt, dass in sechs bis zwölf Monaten ein Schwarm von KI in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb Dario Amodei in einem Blogeintrag.
Zustimmung von Konkurrenten
Binnen weniger Stunden bekam Amodei Zuspruch von einem zentralen Rivalen, dem Chef des ChatGPT-Entwicklers OpenAI. Er sei auch der Ansicht, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle moderiert werden müsse, schrieb Sam Altman auf der Online-Plattform X. Bereits Ende Juli hatte Altman erklärt, dass Entwickler möglicherweise freiwillig einen Gang zurückschalten müssten, damit die Gesellschaft Schritt halten kann.
KI berge "gravierende" Risiken, betonte Amodei. "Die Technologie nicht zu entwickeln, beraubt die Menschheit ihrer Vorteile oder überlässt KI autoritären Mächten", erklärte er. Zugleich sei eine "zu schnelle Entwicklung leichtsinnig".
Amodei plädierte zwar für eine koordinierte branchenweite Pause in der westlichen Welt. Zugleich werde Anthropic – ohne auf andere zu warten – in einem ersten Schritt dauerhaft unabhängige Beobachter ins Unternehmen lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen. Altman nannte das eine gute Idee und kündigte an, dass OpenAI das auch machen werde. Auch Tech-Milliardär Elon Musk, lange ein Amodei-Kritiker, der in seiner Firma SpaceX eine eigene KI entwickelt, schrieb bei X: "Dario hat recht."
Warnung vor "katastrophalem Schaden"
Bei der jüngst bekanntgewordenen, aufsehenerregenden Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus der abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein. Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Modelle unter anderem Software-Schwachstellen aus – und sprachen sich zudem untereinander ab.
Für ihn sei besorgniserregend, dass ein KI-Schwarm mit größeren Fähigkeiten, aber derselben Einstellung hätte "katastrophalen Schaden" anrichten können, betonte Amodei. Als besonderes Risiko sieht er die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln. Seit diesem Sommer sei Künstliche Intelligenz besser darin – und dies erhöhe das Tempo weiter. Unkontrolliert könne dies dazu führen, dass Menschen diese Systeme nicht mehr verstehen und die Kontrolle über sie verlieren, warnte er.
Der Vorstoß folgt auf einen am Donnerstag veröffentlichten Bericht von Anthropic zur Bedrohungslage. Darin legte das Unternehmen dar, wie verschiedene Akteure seine KI-Modelle der Claude-Familie für Aktivitäten nutzten, die von der Waffenentwicklung über Cyber-Operationen bis hin zu Überwachung und Betrug reichten.
Gefährdet KI die Existenz der Menschheit?
Die Sorge vor möglichen Schäden durch KI war zuletzt weiter gewachsen, nachdem der Anthropic-Forscher Jacob Coxon zurückgetreten war. Zuvor hatte er auch bei OpenAI gearbeitet. "Keins der beiden Unternehmen handelt verantwortungsbewusst. Sie befinden sich im Wettrennen um eine sich selbst verbessernde Superintelligenz und setzen dabei unser Leben aufs Spiel", erklärte der 27-Jährige im Onlinedienst X. Er fügte hinzu: "Die Leute, die KI aufbauen, glauben ernsthaft, dass diese uns alle bis zum Ende dieses Jahrzehnts töten kann."
Als Superintelligenz gilt der Punkt, an dem die Fähigkeiten von KI die des Menschen übersteigen. Der bei Anthropic für Sicherheit zuständige Evan Hubinger unterstützte Coxon und erklärte auf X, er persönlich schätze das Risiko, dass KI im nächsten Jahrzehnt "alle Menschen tötet", auf "über zehn Prozent". Auch die Vereinten Nationen (UN) hatten gewarnt, KI könne die Existenz der Menschheit gefährden.
Mit Informationen von dpa, Reuters, AFP
🎧 Wie verändert KI unser Leben? Und welche KI-Programme sind in meinem Alltag wirklich wichtig? Antworten auf diese und weitere Fragen diskutieren Gregor Schmalzried, Marie Kilg und Fritz Espenlaub jede Woche in "Der KI-Podcast" – dem Podcast von BR24 und SWR.
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!