In den meisten Fällen sind Altersüberprüfungen derzeit ziemlich nutzlos. Es wird lediglich gefragt, ob Sie über einem bestimmten Alter sind, und es ist leicht, Ihr Geburtsdatum zu fälschen. Aber im Laufe des Jahres 2025 werden Unternehmen wie Google aktive Schritte unternehmen, um das Alter eines Nutzers zu überprüfen. Jetzt leisten sowohl OpenAI als auch Anthropic ihren Beitrag, indem sie neue Methoden zur Vorhersage minderjähriger Benutzer ankündigen.
OpenAI und Anthropic kündigen Möglichkeiten zur Vorhersage minderjähriger Benutzer an
OpenAI hat angekündigt, dass die Modellspezifikation von ChatGPT vier neue Grundsätze für Benutzer unter 18 Jahren enthalten wird. Auf der Liste steht unter anderem, dass die Sicherheit von Teenagern an erster Stelle steht, was laut OpenAI auch dann Vorrang hat, wenn es mit anderen Zielen im Widerspruch steht. Es wird auch die Unterstützung in der realen Welt fördern, indem Offline-Beziehungen gefördert werden.
Auch Jugendliche werden behandelt mit „Wärme und Respekt„Anstelle herablassender Antworten werden Jugendliche wie junge Menschen und nicht wie Erwachsene behandelt. Dies sind wichtige Änderungen, insbesondere nach Berichten über einige Vorfälle, bei denen Menschen durch Selbstmord gestorben sind, weil sie mit KI-Modellen interagiert hatten, die ihnen ständig zustimmten.
Was Anthropic angeht, erlaubt das Unternehmen Nutzern unter 18 Jahren bereits nicht, sein Claude-Modell zu verwenden. Außerdem werden Änderungen eingeführt, mit denen Konten minderjähriger Benutzer erkannt und deaktiviert werden können. Dies wird durch die Erkennung bestimmter Gesprächssignale erreicht, die darauf hindeuten, dass der Benutzer minderjährig ist.
Was könnte schiefgehen?
Ja, es lässt sich nicht leugnen, dass KI intelligent ist und viele Dinge weiß, aber sie ist nicht perfekt. Wir haben Fälle gesehen, in denen KI ausgenutzt wurde, um Malware zu generieren. Es gibt auch das häufige Problem von Halluzinationen, einem KI-Phänomen, bei dem das Modell völlig erfundene und falsche Antworten aus dem Nichts generiert.
Das bedeutet, dass wir zwar zu schätzen wissen, was OpenAI und Anthropic leisten, wenn es um die Vorhersage minderjähriger Benutzer geht, es aber schwierig ist, hinsichtlich ihrer Wirksamkeit nicht skeptisch zu sein. Außerdem hat Google, wie bereits erwähnt, Anfang des Jahres ähnliche Tools zur Altersüberprüfung eingeführt. Leider war es auch alles andere als perfekt.
Viele Nutzer berichteten, dass die Systeme von Google sie falsch identifiziert hätten, obwohl sie über einem bestimmten Alter waren. Benutzer können dieses Problem beheben, indem sie Dokumente zum Nachweis ihres Alters einreichen. Ansonsten stellt dies jedoch eine unnötige Hürde dar, wenn Benutzer lediglich online suchen oder ein Video ansehen möchten. Werden OpenAI und Anthropic mehr Glück haben? Wir müssen abwarten und sehen.
