Nach monatelangen Kontroversen und weltweiter Prüfung verbannt Grok schließlich die illegale Pornogeneration auf der Plattform. X hat bestätigt, dass es Grok nun daran gehindert hat, Material über sexuellen Kindesmissbrauch und nicht einvernehmliche explizite Bilder zu produzieren. Diese Entscheidung folgt weltweiter Kritik, rechtlichen Anordnungen der Regierung und internationalen Verboten hinsichtlich der Verwendung des KI-Tools.
Grok verbietet endlich illegale Pornos und explizite Bildgenerierung
Elon Musks Social-Media-Firma X bestätigt, dass Grok keine nicht einvernehmlichen expliziten Bilder mehr erstellen kann. Das Unternehmen bezeichnet den Schritt als „Sicherheitsmaßnahme“, sein begrenzter Umfang wirft jedoch Fragen zur Verantwortlichkeit, Durchsetzung und der Zukunft der KI-Bilderzeugung auf.
Das Problem eskalierte, als einige Benutzer begannen, Grok zu verwenden, um aus echten Fotos, einschließlich Inhalten mit Kindern, pornografische Bilder zu generieren. Dies löste Warnungen seitens der Regierungen mehrerer Länder und Kritik seitens der Nutzer aus. Trotzdem blieb die Funktion zugänglich. Elon Musk wies die Bedenken zunächst sogar zurück. Er beschrieb das System weiter als „humorvoll“, bevor er den Missbrauch später gänzlich dementierte.
Als die illegalen Bilder immer beliebter wurden, griffen mehrere Regierungen ein, um das Tool zu regulieren. Indonesien und Malaysia haben Grok-Verbote erlassen. Das Vereinigte Königreich prüfte regulatorische Möglichkeiten zur Kontrolle, und US-Gesetzgeber stellten außerdem die Frage, ob Unternehmen illegale Pornos durch Untätigkeit ermöglichen.
In einem Versuch, die Dinge zu kontrollieren, gab X später bekannt, dass es Grok nun eingeschränkt hat, um die explizite Erstellung von Bildern mit echten Menschen zu verhindern. Das Unternehmen sagte, dass die Änderungen für alle Benutzer gelten, einschließlich zahlender Abonnenten. Es betonte außerdem, dass es eine Null-Toleranz-Politik verfolge. Die Änderung konzentrierte sich jedoch stark auf Compliance und nicht auf Verantwortung. Es wird betont, dass Beschränkungen möglicherweise nur in Rechtsgebieten gelten, in denen solche Erzeugungsaktivitäten illegal sind. Es ist immer noch unklar, ob das Verbot allgemein gilt oder auf der geografischen Lage basiert. Das Unternehmen hat auch nicht zwischen erlaubten und eingeschränkten Inhalten unterschieden.
