Kalifornien hat offiziell eine Klage gegen Elon Musks KI-Unternehmen xAI eröffnet, nachdem Berichten zufolge dessen Chatbot Grok zur Generierung nicht einvernehmlicher, sexuell eindeutiger Bilder verwendet wurde. Generalstaatsanwalt Rob Bonta leitet die Ermittlungen, Gouverneur Gavin Newsom unterstützt ihn. Es handelt sich um die erste bedeutende Maßnahme der US-Regierung, die sich gegen die Plattform richtet, weil sie Deepfake-Bilder mit Frauen und Minderjährigen erstellt hat.
Elon Musks xAI wird wegen der Generierung nicht einvernehmlicher KI-Deepfakes untersucht
Die Untersuchung konzentriert sich auf Vorwürfe, dass die Bilderzeugungstools von Grok es Benutzern ermöglichen, vorhandene Fotos von Menschen aufzunehmen und diese ohne deren Zustimmung digital in suggestive oder explizite Situationen zu verwandeln. Besonders besorgt sind die Staatsbeamten über einen „Spicy Mode“ innerhalb der App. Sie behaupten, dass Musk Grok auf eine Weise vermarktet, die die Produktion expliziter Inhalte fördert. Eine von der Generalstaatsanwaltschaft zitierte Analyse ergab, dass eine erstaunliche Anzahl von Bildern, die in einer einzigen Woche Ende 2025 erstellt wurden, Menschen in Minimalkleidung zeigten. Einige dieser Personen schienen angeblich Kinder zu sein.
Elon Musk hat öffentlich jegliche Kenntnis davon bestritten, dass Grok illegale Inhalte generiert hat. In einem Beitrag auf Grok kann keine Fotos von nackten Menschen erstellen. Es kann sie jedoch immer noch auf anzügliche Weise in Unterwäsche stecken. Er argumentierte weiter, dass Grok diese Bilder nicht spontan erstellt, sondern nur auf spezifische Benutzeranfragen reagiert. Allerdings vermuten Rechtsexperten, dass diese Verteidigung vor Gericht angefochten werden könnte.
Abschnitt 230 schützt Plattformen normalerweise vor der Haftung für das, was Benutzer auf ihren Konten veröffentlichen. Viele argumentieren jedoch, dass das Unternehmen für die Ausgabe verantwortlich sein sollte, da das eigene Modell von xAI dasjenige ist, das die Bilder physisch erstellt.
Von Kalifornien nach Großbritannien
Kalifornien ist nicht der einzige Ort, an dem Grok von den Folgen betroffen ist. Bundesgesetzgeber und Interessengruppen fordern nun Technologiegiganten wie Apple und Google auf, X und Grok aus ihren jeweiligen App Stores zu entfernen. Außerhalb der USA ist der Druck noch höher. Internationale Regulierungsbehörden im Vereinigten Königreich, in Malaysia und Indonesien haben bereits ihren Unmut geäußert oder Verbote verhängt. Das Vereinigte Königreich warnt sogar davor, dass X sein Recht auf Selbstregulierung verlieren könnte, wenn es seine KI-Tools nicht kontrollieren kann.
Als Reaktion auf die wachsende Gegenreaktion hat X kürzlich den Zugriff auf zahlende Abonnenten eingeschränkt und einige Berechtigungen zur Bilderstellung eingeschränkt. Einige vermuten jedoch, dass diese Bilder zwar für die Öffentlichkeit weniger sichtbar sind, die eigenständige App und Website von Grok es Benutzern jedoch dennoch ermöglichen könnte, kontroverse Inhalte privat zu erstellen.
