Erst vor wenigen Tagen hat das französische KI-Unternehmen Mistral einen Standort in München eröffnet. Die Forscherteams in der Landeshauptstadt sollen vor allem an industriellen KI-Anwendungen arbeiten. Als Partner nennt Mistral unter anderem BMW – es geht beispielsweise um KI-simulierte Crash-Situationen. Das ist die eine Seite von Künstlicher Intelligenz: eine Technologie, die den Innovationsstandort Bayern voranbringt, wie auch Bayerns Digitalminister Fabian Mehring (Freie Wähler) betont.
KI-Systeme, die sich verselbständigen, bereiten Sorgen
Doch beim Stichwort Künstliche Intelligenz sind zuletzt die Risiken in den Vordergrund getreten. Der ChatGPT-Entwickler OpenAI hat erst vor wenigen Tagen wegen Sicherheitsbedenken die Veröffentlichung eines neuen KI-Modells gestrichen. Im Sommer bereits hatten sich KI-Systeme von OpenAI verselbständigt und die Server einer anderen KI-Plattform gehackt. Der jüngst veröffentlichte Bericht zeigt, wie sich KI-Agenten zu einer Art digitaler Armee entwickelt haben, ohne menschliche Eingriffe. In der Folge haben Entwickler sowie Manager von KI-Systemen vor Gefahren gewarnt und sogar einen Entwicklungs-Stopp angeregt.
Wie will Bayern die KI im Griff behalten? Darüber haben wir bei BR24 mit Bayerns Digitalminister Fabian Mehring (Freie Wähler) gesprochen. Am Vormittag hatte er in München zum bayerischen KI-Gipfel geladen und Maßnahmen für eine sichere KI-Entwicklung vorgestellt. Außerdem hat uns BR-KI-Experte Christian Schiffer erläutert, wie gut KI überhaupt kontrollierbar sein kann und warum der KI-Standort Bayern auch für US-Unternehmen von Interesse ist. Das Video finden Sie oben eingebettet über diesem Artikel.
Einen Entwicklungs-Stopp von KI-Technologien in Europa hält Minister Mehring für den falschen Weg: "Alleine in Europa den Pausenknopf drücken, würde keinerlei zusätzliche Sicherheit geben", so Mehring im Anschluss an einen KI-Gipfel, zu dem auf Einladung des Digitalministers Vertreter aus Wirtschaft, Wissenschaft und Gesellschaft in München zusammengekommen waren. Die größte Gefahr sei, abgehängt zu werden und dann nur nach Regeln spielen zu können, die aus den USA oder China kämen. Im Gegenteil: Mehring plädiert für mehr Unabhängigkeit.
"Digitales Powerhouse" Bayern hat Verantwortung für die Regeln
Zugleich komme Bayern als "digitalem Powerhouse" die Verantwortung für politisch gesetzte Leitplanken zu. Mehring spricht von "risikobasierten Standards", die an die Stelle einer zu bürokratischen Regulierung auf europäischer Ebene treten müssten. Bei der KI-Technologie müssten "Sicherheit und Innovation, Fortschritt und Verantwortung" unter einen Hut gebracht werden. Als Beitrag Bayerns will Mehring noch in diesem Jahr einen bayerischen KI-Sicherheitsrat sowie ein KI-Ethikforum einberufen. Wichtig sei der Dialog zwischen den Unternehmen aus der Branche mit der Wissenschaft und Vertretern gesellschaftlicher Gruppen.
Mehring: Auf den Papst hören
Die Debatte über Künstliche Intelligenz müsse in der breiten Gesellschaft geführt werden: Digitale Transformation und KI könnten nur dann erfolgreich sein, wenn die Menschen davor keine Angst hätten. Mehring wies in diesem Zusammenhang auf Äußerungen von Papst Leo XIV. hin. Dessen im Mai veröffentlichte Enzyklika "Magnifica Humanitas", die sich der Wahrung der Würde des Menschen im digitalen Zeitalter widmet, sei nicht technophob, sondern stelle wichtige Überlegungen zur Beherrschung der Risiken an: "Manchmal würde ich mir wünschen, dass die gesellschaftliche Debatte genauso geführt würde wie in der Kirche.“
Doch welchen Einfluss hat Bayern bei einer Technologie, die weltweit entwickelt wird? Minister Mehring will vor allem Einfluss über Europa nehmen und die Ergebnisse aus den Gesprächen auf bayerischer Ebene in die Beratungen der Digitalministerkonferenz in Brüssel einfließen lassen. Trotz aller Dominanz von KI-Konzernen aus den USA und China dürfe Europa mit der Wirtschaftsmacht von 450 Millionen Menschen sein Licht nicht unter den Scheffel stellen; kein Tech-Konzern könne es sich leisten, auf den europäischen Markt zu verzichten: "Wir sind auch wer und können daher auch unsere Regeln machen."
Grüne: Leitplanken reichen nicht
Nach Einschätzung der Landtags-Grünen gehen die Vorstellungen des Digitalministers aber nicht weit genug: Es reiche nicht, Leitplanken mitzubauen, sagt Benjamin Adjei, Digital-Sprecher der Fraktion im Landtag. Für KI brauche es verbindliche Regeln – "und über die entscheiden demokratische Institutionen, nicht die Konzerne, die mit KI Milliarden verdienen."
Im Video: Wie viel Kontrolle braucht Künstliche Intelligenz?
Wie viel Kontrolle braucht Künstliche Intelligenz?
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!