Google hat einen Bericht veröffentlicht, aus dem hervorgeht, dass einige Angreifer versucht haben, das Modell der künstlichen Intelligenz (KI) Gemini zu klonen, indem sie es mit Eingabeaufforderungen überfluteten. Berichten zufolge haben sie in einer einzigen Kampagne mehr als 100.000 Anfragen gesendet. Der Technologieriese sagt, der Angriff sei darauf ausgelegt, interne Denkmuster zu extrahieren und die Fähigkeiten des Chatbots zu reproduzieren.
Laut Google haben Angreifer versucht, seine Gemini-KI zu klonen
Im neuesten Bericht der Threat Intelligence Group meldet Google einen spürbaren Anstieg sogenannter Destillationsangriffe gegen fortschrittliche Sprachsysteme. Beim Destillationsangriff handelt es sich um eine gezielte Operation, bei der Angreifer wiederholt ein Modell abfragen und seine Antworten analysieren, um ein Konkurrenzprodukt zu trainieren. Anstatt die Infrastruktur direkt zu hacken, verlassen sich die Angreifer auf API-Zugriff und -Volumen. Sie versuchen grundsätzlich abzubilden, wie die Reaktionen je nach Thema, Stil und Sprache variieren.
Google gibt an, dass ein solches Verhalten gegen seine Nutzungsbedingungen verstößt und einen Diebstahl geistigen Eigentums darstellt. Das Unternehmen weist auf einen kürzlichen Vorfall im Zusammenhang mit Gemini hin, bei dem Angreifer mehr als 100.000 Eingabeaufforderungen verschickten, um das Modell dazu zu bringen, mehr von seiner internen Gedankenkette preiszugeben. Die Angreifer versuchten, Fragetypen und Sprachen anzupassen, um nach Mustern zu suchen, die ihnen dabei helfen könnten, Kernfunktionen aufgabenübergreifend zu klonen.
Google gibt an, alle zugehörigen Konten gesperrt zu haben und es sei zu keinem Datenverstoß gekommen
Google gibt weiter an, dass seine Überwachungssysteme das ungewöhnliche Volumen in Echtzeit erkannt hätten. Es sperrte zugehörige Konten und verschärfte die Sicherheitsvorkehrungen, um jede weitere Extraktion sensibler Begründungsdaten unmittelbar danach einzuschränken. Das Unternehmen lehnte es ab, die Angreifer zu identifizieren. Es wurde jedoch festgestellt, dass viele Extraktionsversuche offenbar mit privaten Unternehmen und unabhängigen Forschern verbunden sind, die einen Wettbewerbsvorteil anstreben.
Der Bericht beschreibt auch andere Missbräuche von Gemini, darunter Experimente mit KI-gesteuertem Phishing und Malware, die die Google API nutzten, um Code auf Abruf zu generieren. Der konkrete Fall zeigt den Wettbewerb, der eine Marke oder ein Unternehmen dazu bringen kann, sich einen Vorteil zu verschaffen, selbst wenn dieser mit unfairen Mitteln zustande kommt.
