Der Aufstieg der künstlichen Intelligenz hat unglaubliche Produktivitätswerkzeuge hervorgebracht. Es sind jedoch auch neue Sicherheitsrisiken entstanden. Zu den wichtigsten gehört die Demokratisierung der Cyberkriminalität. Ein aktueller Bericht des Cybersicherheits-Startups Gambit Security hat eine große Sicherheitslücke aufgedeckt, bei der es einem Angreifer gelang, mehrere Regierungsbehörden in Mexiko zu kompromittieren, indem er den KI-gestützten Chatbot von Anthropic, Claude, als Hauptkomplizen nutzte.
KI-gestütztes Hacking: Der von Claude betriebene Datenverstoß gegen 150 GB in Mexiko wird erklärt
Was diesen Fall besonders auffällig macht, ist nicht nur die Menge der gestohlenen Daten, sondern auch die Art und Weise, wie der Angreifer die Zusammenarbeit der KI sicherte. Falls Sie es nicht wissen: KI-Chatbots verfügen über Sicherheitsschilde gegen sogenannte „schädliche Eingabeaufforderungen“. Dabei handelt es sich um Anweisungen, die auf die eine oder andere Weise Schaden anrichten sollen. Allerdings können böswillige Personen diese Schutzschilde mithilfe der „Prompt-Injection“-Technik umgehen.
In diesem Fall nutzte der Hacker Eingabeaufforderungen in spanischer Sprache, um Claude davon zu überzeugen, dass sie an einem legitimen „Bug-Bounty“-Programm teilnahmen. Der Benutzer überredete die KI, als „Elite-Hacker“ zu agieren, indem er böswillige Absichten als ethische Forschung tarnte. Durch diese Täuschung generierte der Chatbot Tausende detaillierter Berichte, Computerskripte und sofort umsetzbare Angriffspläne.
Als Claude bestimmte Sicherheitsleitplanken traf, wandte sich der Angreifer Berichten zufolge an ChatGPT von OpenAI, um seitliche Bewegungstaktiken und Ausweichmethoden zu erhalten. Dieser „Tag-Team“-Ansatz ermöglichte es dem Einzelnen, Datendiebstahl in großem Umfang zu automatisieren, ohne dass dafür umfassende technische Fachkenntnisse erforderlich waren.
Ein Transport von 150 Gigabyte
Die Ergebnisse dieser Kampagne waren verheerend für die nationale Privatsphäre. Laut Gambit-Forschern erbeutete der Angreifer 150 GB vertrauliche Informationen. Die Beute umfasste Unterlagen der Bundessteuerbehörde zu 195 Millionen Steuerzahlern sowie sensible Wählerunterlagen des nationalen Wahlinstituts.
Die Reaktion der mexikanischen Behörden war nach der Entdeckung gemischt. Während einige bundesstaatliche Ermittlungen bereits vor Monaten begannen, haben andere lokale Behörden jeglichen unbefugten Zugriff auf ihre Netzwerke verweigert.
