Wie alt sind die Nutzer von ChatGPT? Diese Antwort errechnet sich OpenAI, das Unternehmen hinter ChatGPT, bald selbst. Wie OpenAI diese Woche berichtet hat, setzt es in Zukunft auf einen neuen Modus – "ChatGPT for Teens", speziell für Jugendliche. Aber ob man in "ChatGPT for Teens" eingestuft wird, entscheidet man möglicherweise nicht selbst. Die KI entscheidet für einen.
Wie funktioniert das?
Der genaue Algorithmus, den OpenAI zur Alterserkennung nutzen will, ist nicht bekannt. Einige Signale hat OpenAI jedoch verraten. Einmal sollen die allgemeinen Themen dazu gehören, über die ein Nutzer mit dem Chatbot spricht. Auch das Alter des Kontos und bestimmte Nutzungsmuster spielen eine Rolle: Ein Konto, das werktags vormittags fast nie schreibt, an Wochenenden aber ständig, könnte ein solcher Hinweis sein, dass es sich bei dem Nutzer um einen Schüler handelt.
Wenn der Algorithmus sich unsicher ist, soll er eher auf Nummer sicher gehen – und im Zweifel für einen Teen-Account entscheiden. Das bedeutet: Viele ChatGPT-Nutzer könnten in der nächsten Zeit von ChatGPT als jugendlich eingestuft werden – auch wenn sie das gar nicht sind. In so einem Fall kommt man nur zurück in den "Erwachsenen-Modus", wenn man den Gegenbeweis erbringt, etwa durch Selfie oder amtlichen Ausweis.
🎧 Wie verändert KI unser Leben? Und welche KI-Programme sind in meinem Alltag wirklich wichtig? Antworten auf diese und weitere Fragen diskutieren Gregor Schmalzried, Marie Kilg und Fritz Espenlaub jede Woche in "Der KI-Podcast" – dem Podcast von BR24 und SWR.
Auch Meta überprüft Instagram-Nutzer
Tatsächlich ist ChatGPT nicht die einzige App, deren Nutzer mittlerweile von einem Algorithmus in eine Alterseinstufung geschickt werden. Meta, der Konzern hinter Instagram und Facebook, macht etwas ganz ähnliches. Seit Neuestem setzt Meta eine KI ein, um Fotos ihrer Nutzer zu analysieren, besonders typische Körpermerkmale wie Körpergröße oder Knochenstruktur. Meta betont, dass es sich dabei nicht um Gesichtserkennung handelt.
Auch, da die Daten mit anderen Informationen verknüpft werden können. Auch Geburtsagsglückwünsche von Freunden, öffentliche Erwähnungen von Schulklassen oder der Sprachstil können von der KI ausgewertet werden.
OpenAI und Meta reagieren damit auch auf politischen Druck. Immer wieder wird den großen Tech-Unternehmen vorgeworfen, nicht genug für den Kinderschutz auf ihren Plattformen zu tun.
Wie wirksam ist die Alterserkennung?
Das Problem: Rein technische Alterserkennungen können nie perfekt sein. Am Ende ermittelt der Algorithmus lediglich einen Wahrscheinlichkeitswert – und es liegt an dem Unternehmen, wie streng man diesen Wert interpretiert. Sagt der Algorithmus etwa: "Diese Person ist zu dreißigprozentiger Wahrscheinlichkeit minderjährig", könnte man den Account als minderjährig einstufen – oder es lassen. Das ist dann weniger eine technische Entscheidung, und vor allem eine politische.
Denn rein technisch ist unklar, wie gut die digitale Alterserkennung überhaupt funktioniert. Einer Untersuchung des US-Standardisierungsinstituts NIST ist die Alterserkennung per Bild ausgerechnet bei Teenagern oft besonders ungenau. Ob die Methoden von OpenAI besser sind, ist bislang noch nicht klar.
Ein Gegenbeispiel zeigte kürzlich Australien: Trotz eines viel diskutierten Social-Media-Verbote sind dort rund 70 Prozent der Unter-16-Jährigen, die schon vor dem Verbot Social Media hatten, weiterhin auf den Plattformen aktiv.
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!