Computerbildschirm mit Bild einer durch Künstliche Intelligenz generierten Illustrationsbild mit Code verschiedener Programmiersprachen und einem neuronalen Netzwerk-Diagramm.
Bildrechte: dpa-Bildfunk/Oliver Berg
Audiobeitrag

Das KI-Gesetz der EU tritt im Juni in Kraft (Symbolbild)

Audiobeitrag
> Netzwelt >

KI-Gesetz der EU nimmt letzte Hürde – Was ändert sich nun?

KI-Gesetz der EU nimmt letzte Hürde – Was ändert sich nun?

Der AI Act der Europäischen Union gilt als weltweit umfassendste KI-Regulierung. Nachdem nun auch der EU-Ministerrat zugestimmt hat, tritt das Gesetz im Juni in Kraft. Es reguliert nicht nur, sondern will auch KI-Innovationen made in Europe fördern.

Über dieses Thema berichtet: BR24 Infoblock am .

Die EU-Staaten haben schärfere Regeln für Künstliche Intelligenz (KI) in der Europäischen Union beschlossen. Der Rat der 27 EU-Mitgliedstaaten verabschiedete in Brüssel endgültig das KI-Gesetz, das die Nutzung der Technologien etwa in der Videoüberwachung, Spracherkennung oder bei der Auswertung von Finanzdaten regelt.

Anfang Juni soll es im EU-Amtsblatt veröffentlicht werden und 20 Tage später in Kraft treten, abgestuft nach Geltungsbereichen. Alle Teile des Gesetzes gelten dann ab dem Frühjahr 2026. Das EU-Parlament hatte dem Gesetz bereits im März zugestimmt.

Menschen sollen KI sicher nutzen können

Das KI-Gesetz zielt darauf ab, die Nutzung von KI in der Europäischen Union sicherer zu machen. Es soll sicherstellen, dass KI-Systeme möglichst transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Ein wichtiger Aspekt ist, dass die KI-Systeme von Menschen überwacht werden und nicht nur von anderen Technologien.

Je riskanter eine KI-Anwendung ist, desto strengere Regeln gelten für sie

Systeme, die als besonders risikoreich gelten und beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden, müssen demnach künftig strenge Anforderungen erfüllen. Bestimmte KI-Anwendungen, die gegen EU-Werte verstoßen, sollen ganz verboten werden. Dazu gehört beispielsweise die Bewertung von sozialem Verhalten. Durch ein solches "Social Scoring" werden die Bürgerinnen und Bürger in China in Verhaltenskategorien eingeteilt.

Gesichtserkennung im öffentlichen Raum ist grundsätzlich verboten

Auch eine Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen soll es in der EU nicht geben. Die Gesichtserkennung im öffentlichen Raum – also zum Beispiel durch Videoüberwachung an öffentlichen Plätzen – soll grundsätzlich nicht erlaubt sein. Dabei gibt es jedoch Ausnahmen: Polizei und andere Sicherheitsbehörden sollen eine solche Gesichtserkennung im öffentlichen Raum nutzen dürfen, um ganz bestimmte Straftaten wie Menschenhandel oder Terrorismus zu verfolgen.

Amnesty International hatte vor dem Hintergrund der kürzlich beschlossenen Reform des EU-Asylrechts davor gewarnt, Gesichtserkennung und andere umstrittene Technologien gegen Migranten und andere Schutzsuchende einzusetzen. Das polizeiliche Identifizieren von Menschen in Echtzeit sei nicht streng genug geregelt, kritisierten auch Europaabgeordnete von SPD und Linken.

Kennzeichnungspflicht für KI-generierte Inhalte

Darüber hinaus sieht das KI-Gesetz eine Kennzeichnungspflicht vor: Entwickler sollen mit Künstlicher Intelligenz erzeugte Texte, Töne und Bilder markieren müssen, um Menschen nicht in die Irre zu führen. Experten halten dies wegen der Fülle des Materials allerdings für schwer kontrollierbar.

Das Gesetz gilt für alle, die KI-Systeme innerhalb der EU entwickeln, anbieten oder nutzen. Dies betrifft öffentliche und private Akteure sowohl innerhalb als auch außerhalb der EU. Wenn Unternehmen die Vorschriften nicht einhalten, müssen die Mitgliedstaaten Sanktionen beschließen. Dies können Geldstrafen sein. Privatpersonen, die Verstöße gegen die Vorschriften entdecken, können sich bei nationalen Behörden beschweren. Diese können dann Überwachungsverfahren einleiten und gegebenenfalls Strafen verhängen.

EU will auch KI-Innovationen aus Europa fördern

Damit innovative und erfolgreiche KI-Anwendungen nicht immer nur aus den USA, sondern auch mal aus Europa kommen, sollen europäische Firmen zum Beispiel Zugang zu Supercomputern bekommen, die diese irren Datenmengen überhaupt stemmen können. Darauf können sie ihre KI-Systeme trainieren und testen. Die dafür nötigen Trainingsdaten sollen in Europa aufbereitet werden, und zwar nach gewissen Kriterien und auch Werten. Dazu gehört zum Beispiel, dass das Training der KI-Basismodelle nicht nur auf Englisch, sondern in vielen EU-Sprachen passiert.

Kommissionschefin Ursula von der Leyen versprach kürzlich: "Wir werden auch gemeinsame europäische Datenräume in den Dienst von Start-ups stellen und riesige Datenmengen allen EU-Sprachen zur Verfügung stellen. Denn KI soll auch für alle Nicht-Englisch-Sprecher da sein."

Mehrsprachiges KI-Basismodell Open GPT-X

Ein Beispiel dafür ist das von zehn deutschen Firmen und Institutionen entwickelte KI-Basismodell OpenGPT-X, [externer Link] das demnächst veröffentlicht werden soll. Neben Deutsch und Englisch soll das Sprachmodell auch die Sprachen Französisch, Spanisch und Italienisch beherrschen. Ein weiterer Unterschied zu ChatGPT: Open GPT-X wird als Open-Source-Software zur Verfügung stehen, jeder kann also den Programmcode herunterladen und das Modell nach seinen eigenen Wünschen anpassen.

🎧Wie verändert KI unser Leben? Und welche KI-Programme sind in meinem Alltag wirklich wichtig? Antworten auf diese und weitere Fragen diskutieren Gregor Schmalzried, Marie Kilg und Fritz Espenlaub jede Woche in Der KI-Podcast – dem Podcast zur KI-Revolution von BR24 und SWR.

Mit Informationen von dpa

Das ist die Europäische Perspektive bei BR24.

"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!