Eine KI, die die Kontrolle über das Militär bekommt, einen Krieg gegen die Menschheit beginnt und sie vernichten will. Das klingt nicht nur nach Science Fiction, sondern ist es auch: Das ist die Idee des Films "Terminator" aus dem Jahr 1984. Was damals eine dystopische Geschichte war, wird immer mehr zur realen Sorge. Inzwischen ist KI so leistungsstark, dass selbst die Menschen hinter den Modellen Warnungen aussprechen.
In der Tech-Branche schlagen gerade namhafte KI-Entwickler Alarm. Sie warnen vor einem ungebremsten Wettlauf hin zu einer sich selbst verbessernden Superintelligenz. Auch Bürgerinitiativen fordern deshalb eine Denkpause. Felix Monninger, Softwareentwickler und Mitbegründer der Bürgerinitiative "PauseAI" in München, plädiert für ein internationales Abkommen, um die Entwicklung extrem leistungsfähiger KI-Systeme abzubremsen: "Wir müssen uns sehr, sehr sicher sein, dass eine KI auch wirklich das tut, was im Interesse der Menschheit ist."
Das Beispiel, das Fachleute beunruhigt
Solche Warnungen bleiben oft abstrakt. Konkreter wird es bei einem Szenario, vor dem Felix Monninger, aber auch weitere Experten warnen: KI, die beim Bau biologischer Waffen hilft. "Wenn KI irgendwann die Fähigkeiten der fähigsten menschlichen Forscher übertrifft, könnte sie ein Virus erzeugen, das man dann im Internet bestellen kann", sagt Monninger.
Tatsächlich lassen sich DNA-Sequenzen bei spezialisierten Anbietern bestellen und synthetisieren – die meisten prüfen zwar automatisiert auf bekannte Erreger, doch dieses Screening ist weltweit nicht einheitlich geregelt. Auch Sarah Ball, Sicherheitsforscherin an der LMU München, sieht hier eine reale Gefahr: KI werde schon jetzt gezielt missbraucht, etwa von Hackern.
"Wenn es Terroristen schaffen, ein neueres Virus mithilfe von KI zu erstellen, könnte uns das im Endeffekt umbringen", so Ball. Zwar trainieren Firmen ihre Modelle darauf, solche Anfragen zu verweigern – dieser Schutz lässt sich laut Ball mit gezielten Angriffen aber noch immer austricksen.
🎧 Wie verändert KI unser Leben? Und welche KI-Programme sind in meinem Alltag wirklich wichtig? Antworten auf diese und weitere Fragen diskutieren Gregor Schmalzried, Marie Kilg und Fritz Espenlaub jede Woche in "Der KI-Podcast" – dem Podcast von BR24 und SWR.
Wo die konkreten Gefahren im Alltag liegen
Die greifbaren Risiken sieht Monninger bereits im Hier und Jetzt. Dazu zählen Sorgen um den Arbeitsplatz, Auswirkungen auf die Kunst, Einflüsse auf die psychische Gesundheit und immer mehr KI-gestützte Betrugsversuche.
Laut ihm schreitet die KI-Entwicklung in einem zu rasanten Tempo voran: "Wenn wir so etwas unglaublich Mächtiges bauen, dann müssen wir uns sehr, sehr sicher sein, dass das auch wirklich das tut, was im Interesse der Menschheit ist." KI sei aber gleichzeitig auch eine große Chance, etwa bei der Erkennung und Heilung von Krankheiten. "Deshalb muss nicht unbegrenzt gestoppt werden – aber so lange, bis wir abschätzen können, wie hoch denn das Risiko von einem katastrophalen Ausgang für die Zivilisation ist", so Monninger.
So schützen Sie sich vor KI-Risiken im Alltag
Wie kann sich jeder Einzelne vor den Schattenseiten der neuen Technologie schützen? Für den Alltag braucht es Vorsichtsmaßnahmen:
- KI-Fälschungen erkennen: Verlassen Sie sich nicht blind darauf, wer am Telefon spricht. KI kann Stimmen in Sekunden nachahmen. Bei Anrufen mit unbekannter Nummer von angeblichen Verwandten gilt: auflegen und die vertraute Nummer direkt zurückrufen. Bei Bild- oder Videoinhalten hilft ein zweiter, unabhängiger Check.
- Emotionale Abhängigkeit vermeiden: Manche Chatbots fördern eine starke Bindung zu Nutzern. Sie sind Werkzeuge, kein Ersatz für menschliche Beziehungen.
- Persönliche Daten schützen: Wer sensible Informationen mit Chatbots teilt, sollte bedenken, dass diese gespeichert und weiterverarbeitet werden können.
- Sich informieren und einmischen: Gegen die großen, globalen Risiken hilft laut Monninger langfristig nur gesellschaftlicher Austausch – informieren, im Umfeld darüber sprechen oder sich an Abgeordnete wenden.
Die KI-Entwicklung schreitet rasant voran. Während die Politik über strengere Regeln berät, schützt im Alltag vor allem eine gesunde Skepsis bei digitalen Kontakten.
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!