Apple und Google stehen erneut im Rampenlicht, nachdem ein neuer Bericht KI-gestützte Nudify-Apps auf ihren Plattformen enthüllt. Besorgniserregend ist, dass viele dieser Apps auch ohne Erlaubnis normale Fotos aufnehmen und Nacktbilder erstellen können. Das Ergebnis wirft Bedenken hinsichtlich Datenschutz, Sicherheit und klarer Kontrolle durch Technologiegiganten über ihre App-Stores auf.
Ein neuer Bericht enthüllt jede Menge Nudify-Apps auf dem Marktplatz von Google und Apple
Eine Studie veröffentlicht von Tech-Transparenz-Projekteine gemeinnützige Gruppe, die digitale Risiken verfolgt, zeigt einen klaren Fall der Aufsicht durch Google und Apple. Zunächst durchsuchten die Forscher den Apple App Store und den Google Play Store nach Begriffen, die mit Ausziehfotos verknüpft waren. Was schockierend ist, ist, dass sie unzählige Apps gefunden haben, die KI verwenden, um Kleidung auszuziehen oder Gesichter auf nackten Körpern auszutauschen. Ein umfassender Test zeigt außerdem, dass die Apps eindeutig auf sexualisierte Ergebnisse ausgelegt sind und nicht auf einfache Fotobearbeitung oder -änderungen.
Nachdem Apple über solche Apps informiert wurde, sagte es, es habe mehrere Apps entfernt und die jeweiligen Entwickler gewarnt. Einige Apps durften in den App Store zurückkehren, sobald erforderliche Änderungen vorgenommen wurden. Google hingegen gab an, mehrere Apps gesperrt zu haben, solange die Überprüfungen noch andauern. Beide Unternehmen betonen, dass sie gegen die Apps, die sexuelle Bilder erzeugen, seien und weiterhin gegen diese vorgehen werden.
Die Marken reagierten zu spät
Kritiker sagen, dass die Marken die Apps zu spät von ihren Plattformen entfernt hätten. Um Ihnen eine Vorstellung zu geben: Einige Apps wurden millionenfach heruntergeladen und generierten große Umsätze. Berichte wie dieser stellen das Konzept von Privatsphäre und Einwilligung im sich entwickelnden digitalen Raum in Frage. xAI sah sich kürzlich einer Gegenreaktion ausgesetzt, nachdem sein Chatbot Grok sexualisierte Bilder produzierte. Das Unternehmen schränkte das Tool erst nach der Gegenreaktion ein.
Mehrere Regierungen und weltweite Nutzer sind bereits gegen jede App oder jeden Dienst, der sexualisierte Bilder erstellt. Allerdings ergreifen die meisten Unternehmen nur dann Maßnahmen, wenn sie auf Gegenreaktionen stoßen oder über solche Apps gemeldet werden. Dies muss von den Unternehmen schnellstmöglich behoben werden.
