In diesem Jahr standen Social-Media-Unternehmen im Fokus der Behörden. Große Namen wie Meta und TikTok wurden wegen ihres Versäumnisses, minderjährige Nutzer angemessen zu schützen, vor Gericht gestellt. Unter all dem Druck haben einige, wie Instagram, strenge Datenschutzmaßnahmen für Teenager-Konten eingeführt. Jetzt hat Meta Einblick in seinen neuen KI-gestützten Klassifikator für Erwachsene gegeben.
Seit Monaten tragen minderjährige Accounts (Nutzer unter 16 Jahren) auf Instagram das Label „Teenager-Account“. Als solche gekennzeichnete Profile unterliegen standardmäßig den strengsten Datenschutzbeschränkungen. Dadurch soll verhindert werden, dass Kinder oder Jugendliche direkten Kontakt zu potenziellen Tätern oder Straftätern aufnehmen. Da diese Einschränkungen möglicherweise die Funktionen einschränken, versuchen manche Teenager möglicherweise, sie zu umgehen.
Meta bietet weitere Details zum KI-gestützten Klassifikator für Erwachsene, den Instagram erhalten wird
Eine Möglichkeit für Minderjährige, die Kontobeschränkungen für Teenager zu umgehen, besteht darin, ein neues Profil mit einem falschen Geburtsdatum zu erstellen. Vor diesem Hintergrund kündigte Meta im September an, dass es ein KI-gestütztes Klassifizierungstool für Erwachsene auf den Markt bringen wird, um solche Fälle automatisch zu erkennen. Jetzt hat Allison Hartnett, Leiterin des Produktmanagements für Jugend und soziale Wirkung bei Meta, weitere Details darüber bekannt gegeben, wie es funktionieren wird.
Laut Hartnett analysiert das Tool mehrere Parameter, um eine Entscheidung zu treffen. Dazu gehören insbesondere die Konten, denen ein Nutzer folgt, und die Art der Inhalte, mit denen er tendenziell interagiert. Die Systeme von Meta achten auch auf potenziell verdächtiges Verhalten, wenn ein neues Instagram-Konto erstellt wird, beispielsweise wenn eine mit einem bestehenden Profil verknüpfte E-Mail-Adresse verwendet wird oder sogar die Geräte-ID abgerufen wird. Auf diese Weise können sie eine genauere Entscheidung darüber treffen, wer ein neues Profil erstellt.
Der KI-Erwachsenenklassifikator von Meta wird in der Lage sein, Konten, bei denen der Verdacht besteht, dass sie Minderjährigen gehören, als „Teenager“ zu kennzeichnen und dabei automatisch alle Einschränkungen anzuwenden. Konten mit diesen Einschränkungen können nicht ohne vorherige Genehmigung eines Elternteils entfernt werden. Das Unternehmen verspricht, ein Berufungstool bereitzustellen, wenn ein Konto fälschlicherweise als „Teenager“ gekennzeichnet wird. Es gibt jedoch noch kein Datum für die Verfügbarkeit des Einspruchstools.
Instagram fragt beim Versuch, das Alter zu ändern, nach gültigen Ausweisen oder einer KI-gestützten Gesichtsanalyse
Es kann auch Fälle geben, in denen Jugendliche versuchen, Beschränkungen aufzuheben, indem sie ihr Geburtsdatum ändern. Dabei fragt Instagram nach einem gültigen, amtlichen Ausweis. Benutzer haben außerdem die Möglichkeit, über die Technologie von Yoti ein Selfie-Video hochzuladen. Letzteres bietet fortschrittliche KI-gestützte Erkennungsdienste, die sogar das Alter einer Person bestimmen können. Meta hat sich bereits an Yoti gewandt, um das Alter der Nutzer der Facebook-Dating-Option zu überprüfen.
