Der „Boom für künstliche Intelligenz“ in der Tech -Branche hat Apps und Dienste aller Art hervorgebracht. Chatgpt, ein Chatbot, hat die Technologie zwischen den Massen populär gemacht, so ähnliche Produkte – aber mit unterschiedlichen Ansätzen -, um zu florieren. Charakter.ai, eine Plattform zum „Reden“ mit KI-angetriebenen Charakteren, ist ein solcher Service. Es scheint jedoch, dass weder Google noch Apple mit dem, was der Charakter.AI -App in ihren frühen Tagen war, sehr zufrieden waren.
Wie der Name schon sagt, bietet Charakter.ai eine breite Palette von „Charakteren“, die vom KI -Modell des Unternehmens angetrieben werden. Charaktere können originelle oder sogar Darstellungen anderer sein, die in beliebten Filmen, Fernsehsendungen, Videospielen oder Buch -Franchise -Unternehmen präsentieren. Mit der Plattform können Benutzer ihre eigenen „KI -Personas“ erstellen, mit denen andere interagieren können.
Google und Apple forderten strengere Filter für die charakter.ai -App, weil sie für Jugendliche unangemessen sind
In den letzten Jahren haben sich die Benutzer über zunehmend starke Zensurfilter beschwert. Laut einem Bericht aus den Informationen ist dies auf Anfragen sowohl von Apple als auch von Google zurückzuführen, die über die Verwendung von Teenagern besorgt waren.
Anscheinend erlaubte Charakter.ai zunächst unangemessene Gesprächsthemen für Jugendliche. Zum Teil half dies zu einem plötzlichen massiven Anstieg der Beliebtheit für den Dienst. Im Laufe der Zeit begannen die Gespräche jedoch, Fehler oder Warnungen zu mehr Wörtern und Themen aufgrund neuer Zensurfilter auszulösen.
Die Informationen behaupten, dass Apple und Google das Unternehmen aufgefordert haben, strengere Filter festzulegen. Apple ging noch einen Schritt weiter, indem er Charakter hatte. Beide Tech -Riesen waren nicht die einzigen, die sich über die möglichen Auswirkungen von Gesprächen auf junge Menschen besorgt hatten. Die Quelle besagt, dass selbst Charakter.ai Mitarbeiter die damit verbundenen Bedenken in internem geäußert haben.
Google erwarb das Führungsteam von Charakter.ai im August 2024, das möglicherweise die Einstellung von noch strengeren Filtern veranlasste. Der Mountain View -Riese wollte, dass der Service für Teenager so sicher wie möglich ist.
Charakter.ai Kontroversen im Jahr 2024
Charakter.ai war letztes Jahr zweimal in Kontroversen verwickelt. Einer der Fälle beinhaltete den Tod eines 14-Jährigen. Anscheinend veranlassten ihn Sewell Setzers persönliche Situationen, von einer KI-betriebenen Darstellung von Daenerys Targaryen besessen zu werden, einer der Hauptfiguren des Game of Thrones-Franchise. Megan Garcia, Setzers Mutter, verklagte sowohl Google als auch Charakter.
Die zweite Klage, die im vergangenen Dezember eingereicht wurde, behauptete, dass die Plattform Minderjährige zugelassen hat.gezielt mit sexuell explizit, gewalttätiger und ansonsten schädlichem Material, missbraucht, gepflegt und sogar ermutigt, Gewaltakte gegen sich selbst und andere zu begehen. ““