Wir leben in einer Welt, in der es immer schwieriger wird, zu glauben, was wir im Internet sehen. Das Aufkommen von KI-Avataren macht das Ganze noch schlimmer. TikTok testet so etwas, aber es könnte auf ein Hindernis gestoßen sein. Die KI-Avatare von TikTok könnten kurzzeitig problematische Inhalte erstellen.
Das Unternehmen im Besitz von ByteDance sprang schnell auf den KI-Zug auf und brachte seine eigenen KI-Tools mit. Jetzt arbeitet das Unternehmen an seinen Symphony Avatars. Dabei handelt es sich um KI-generierte Avatare, die die Illusion vermitteln sollen, dass es sich um echte Menschen handelt. Als ob es nicht schon schwer genug wäre, zu glauben, was man auf TikTok sieht. Derzeit wird das Tool noch mit einer begrenzten Anzahl von Benutzern getestet.
Die KI-Avatare von TikTok erstellten kurzzeitig problematische Inhalte
Dieses Problem wurde erstmals von CNN-Reporter Jon Sarlin bemerkt. Er konnte sich über sein persönliches Konto Zugriff auf das Tool verschaffen. Das war der erste Hinweis darauf, dass etwas nicht stimmte. Dieser Test soll auf eine exklusive Gruppe von Benutzern beschränkt sein. Normale Benutzer sollten also keinen Zugriff darauf haben.
Keine Leitplanken
Das Kaninchenloch wird tiefer, als der Benutzer sah, dass die produzierten Videos nicht mit Wasserzeichen versehen waren. KI-Unternehmen werden ermutigt, eine Art Wasserzeichensystem zu implementieren, um die Leute wissen zu lassen, wann Inhalte KI-generiert sind. Auf diese Weise werden die Leute beim Betrachten der Inhalte nicht getäuscht.
Schrecklichen Text rezitieren
Als Sahnehäubchen auf diesem problematischen Eisbecher konnten die KI-Avatare von TikTok einige ziemlich fragwürdige Inhalte erstellen. Der Reporter konnte einen Avatar dazu bringen, Hitlers „Mein Kampf“ und Osama bin Ladens „Brief an Amerika“ zu rezitieren. Falls Sie es nicht wissen: Das sind ziemlich schlimme Dinge zum Rezitieren.
Es gab also keine Leitplanken dafür, was produziert werden konnte, und keine Möglichkeit, zu erkennen, dass es sich um eine Fälschung handelte. Es sieht so aus, als wäre TikTok in Schwierigkeiten, oder? Naja, nicht wirklich. Auch diese Funktion ist nicht öffentlich verfügbar. Das Unternehmen sagte, dass ein „technischer Fehler“ die Vorproduktionsfunktion für einige normale Benutzer zugänglich gemacht habe. Außerdem wurde der problematische Inhalt nicht in der eigentlichen App gepostet. Es scheint, dass er es nur in die Vorschauphase geschafft hat.
Laut einer Erklärung des Unternehmens „wäre der Versuch von CNN, die von ihm erstellten schädlichen Inhalte hochzuladen, aufgrund der Verletzung unserer Richtlinien abgelehnt worden.“ Es scheint also, dass dies kein großes Problem gewesen wäre.
TikTok hat den Zugriff auf gängige Konten gesperrt und arbeitet daran, sicherzustellen, dass die Funktion keine Videos produziert, die zur Kündigung führen würden. Wenn diese Funktion also eingeführt wird, wird sie hoffentlich sicherer sein.
