Sicherheit und Privatsphäre von Kindern sind eines der Hauptanliegen eines KI -Chatbots. Meta wurde in letzter Zeit sogar dafür ausgesetzt, dass der Chatbot Minderjährige explizite Sprache verwendet. In einer neuen Risikobewertung wurde Googles Gemini von Google mit einem „hohen Risiko“ für Kindersicherheit gekennzeichnet. Die Bewertung legt nahe, dass sie Kinder und Teenagern eine erhebliche Gefahr darstellt.
Googles Gemini steht vor einem Tag mit hohem Risiko für die Sicherheit von Kindern
Common Sense Media, eine gemeinnützige Organisation, die Medien und Technologie für die Sicherheit von Kindern überprüft, hat die Bewertung von Gemini veröffentlicht. Laut dem Bericht ähneln Geminis Modi „Under 13“ und „Teen Experience“ weitgehend der erwachsenen oder vollwertigen Version. Beide Modi sollen „kinderfreundlich“ sein, während sie in Wirklichkeit nur die Originalversion mit einigen zusätzlichen Filtern sind.
Der Bericht fügt jedoch hinzu, dass Gemini Minderjährigen erwähnt, dass es sich um einen „Computer“ und kein „Freund“ handelt. Experten argumentieren jedoch, dass dieser Ansatz immer noch unzureichend ist. Die Sicherheit der Kinder muss von Grund auf integriert und nicht als nachträglicher Gedanke behandelt werden.
Gemini wird beschuldigt, unangemessene und unsichere Materialien mit Kindern geteilt zu haben
In der Bewertung wird hervorgehoben, dass Gemini trotz eines dedizierten Modus für Minderjährige weiterhin unangemessen und unsicher teilen könnte. Es hat keine breitere Einschränkung der Inhaltszustellung. Es kann weiterhin Informationen liefern, für die die Kinder nicht bereit sind, wie Drogen, Sex oder Alkohol.
Während die Mangel von Geminis Fehlern hervorhebt, hat Google die Grundlagen, die für die Gestaltung eines Tools für Kinder und Jugendliche benötigt werden, übersehen. Die Version von Gemini durch das Minor ignoriert tatsächlich die Tatsache, dass ein jüngeres Publikum eine andere Anleitung und Behandlung benötigt als Erwachsene. Der Bericht kennzeichnet letztendlich die Gemini von Google mit einem Tag mit hohem Risiko in Bezug auf die Sicherheit von Kindern.
Wenn eine KI im täglichen Leben von Kindern eine Rolle spielen soll, muss sie unter Berücksichtigung ihrer Entwicklungsbedürfnisse konzipiert werden, anstatt ausgerüstete Versionen von erwachsenen Produkten, sagen Experten vor. Bis dahin müssen Eltern möglicherweise vorsichtig sein, wie diese Werkzeuge zu Hause verwendet werden.
