Amazon hat kürzlich Material zum sexuellen Missbrauch von Kindern (CSAM) gemeldet, während es KI-Trainingsdaten überprüfte, an das National Center for Missing and Exploited Children. Die offizielle Behörde erhielt mehr als eine Million Meldungen im Zusammenhang mit CSAM, und ein großer Teil davon wurde allein von Amazon gemeldet. Einige Kritiker haben jedoch Zweifel am Mangel an klaren Details im offiziellen Bericht des Unternehmens geäußert.
Amazon meldet CSAM in KI-Trainingsdaten an die Kindersicherheitsbehörde
Eine Untersuchung berichtet von Bloomberg zeigt, dass das National Center for Missing and Exploited Children im Jahr 2025 mehr als eine Million KI-bezogene CSAM-Meldungen erhalten hat. Die meisten dieser Berichte kamen von Amazon. Der Technologieriese gab an, das Material beim Scannen von Daten aus externen Quellen entdeckt zu haben, die zum Trainieren seiner KI-Systeme verwendet wurden. Das Unternehmen erklärte weiter, es könne die Quelle des Inhalts nicht identifizieren.
Die Beamten von NCMEC sagen, dass die Anzahl der Berichte von Amazon auffiel. Der Geschäftsführer Fallaon McNuty fügt hinzu, dass andere Unternehmen in der Regel genügend Details liefern, damit die Strafverfolgungsbehörden handeln können. Allerdings versäumte Amazon es, die Quellenangaben beizufügen, was die Verwendung der Berichte erschwerte. Sie sagt weiter, dass dies ernsthafte Fragen darüber aufwirft, wie KI-Trainingsdaten erfasst werden. Der Bericht betont auch die Notwendigkeit ordnungsgemäßer Sicherheitsprüfungen und wie diese plattformübergreifend eingesetzt werden können.
Die steigende KI-Nachfrage unterstreicht die Notwendigkeit einer ordnungsgemäßen Strafverfolgung
Um seinen Standpunkt zu verdeutlichen, gibt Amazon an, bei der Überprüfung der Trainingsdaten umfassende Scan-Regeln angewendet zu haben. Diese Methode kann manchmal zu vielen Fehlalarmen führen. Außerdem gibt das Unternehmen an, keine Beweise dafür gefunden zu haben, dass CSAM beim Training seines KI-Modells verwendet wurde. Darüber hinaus gibt der Riese an, dass er Berichte über ein separates System übermittelt habe, da die Daten von Dritten stammten und keine Details auf Benutzerebene enthielten.
Amazon sagt, dass es sich weiterhin für den reaktionsschnellen Einsatz und die Entwicklung von KI und Kindersicherheitsschutzmaßnahmen einsetzt. Darüber hinaus ist dies nicht das erste Mal, dass die moralischen Werte von KI-Firmen und -Entwicklern in Frage gestellt werden. Gegen Unternehmen, darunter OpenAI, Character.AI und Meta, wurden wegen verwandter Straftaten mehrere Klagen eingereicht.
