Nach beunruhigenden Berichten über Menschen, die nach der Interaktion mit ChatGPT Selbstmord begingen, beschloss OpenAI, Sicherheitsmaßnahmen zu ergreifen, in der Hoffnung, so etwas zu verhindern. Dazu gehören Sicherheitsvorkehrungen zum Schutz jüngerer Benutzer, beispielsweise Teenager. Aber woher weiß die KI, dass ein Benutzer minderjährig ist? Laut OpenAI verwenden sie jetzt die Altersvorhersage mit ChatGPT, um dies festzustellen.
ChatGPT verwendet eine Altersvorhersage
In der Ankündigung von OpenAI heißt es, dass das Unternehmen Altersvorhersagen für ChatGPT einführt. Wenn Sie sich jetzt für ein Konto anmelden, werden Sie nach Ihrem Alter gefragt. Natürlich können Sie lügen und behaupten, älter zu sein als Sie. Dies ist ein Problem, mit dem viele Online-Dienste seit Jahren kämpfen.
Allerdings wird es bei der Altersvorhersage schwieriger. OpenAI sagt: „Das Modell berücksichtigt eine Kombination aus Verhaltens- und Kontoebenensignalen, darunter die Dauer des Bestehens eines Kontos, typische Tageszeiten, zu denen jemand aktiv ist, Nutzungsmuster im Laufe der Zeit und das angegebene Alter eines Benutzers.“
Was passiert also, wenn ein Benutzer angibt, über 18 zu sein, die Altersvorhersage jedoch davon ausgeht, dass dies nicht der Fall ist? OpenAI sagt, dass sie sich über Persona, einen Identitätsprüfungsdienst, mit einem Selfie verifizieren können. Das Altersvorhersagesystem wendet außerdem automatisch zusätzliche Schutzmaßnahmen an, bis sich der Benutzer verifiziert.
Dazu gehört der Schutz vor drastischer Gewalt oder blutrünstigen Inhalten, viralen Herausforderungen, die als riskant oder schädlich gelten, sexuellen, romantischen oder gewalttätigen Rollenspielen und mehr. Angesichts der Tatsache, dass OpenAI plant, einen „Erwachsenenmodus“ in ChatGPT einzuführen, könnte dies nützlich sein. Aber die größere Frage ist: Wird es wirksam sein?
Wir haben schon erlebt, dass es scheiterte
Altersvorhersagemodelle sind nicht gerade neu. Tatsächlich versuchte Google bereits im Jahr 2025, mithilfe von KI das Alter des Nutzers vorherzusagen. Es war gut gemeint, obwohl Benutzerberichte behaupten, dass es nicht so genau war. Benutzer, die als Erwachsene galten, wurden von ihren Konten ausgeschlossen.
Zwar gibt es bei Google auch eine Möglichkeit für Nutzer, ihr Alter nachzuweisen, der Punkt ist jedoch, dass es sich hierbei um einen störenden Prozess handelt. Stellen Sie sich vor, Sie versuchen, Ihre Arbeit zu erledigen, werden dann aber ausgesperrt, weil die KI Ihr Alter schlecht vorhersagen konnte. Wird OpenAI Google in seinem Erfolg übertreffen? Das bleibt abzuwarten, aber hoffentlich hat das Unternehmen aus den Fehlern von Google gelernt.
