Heute sind KI-betriebene Dienste bereits Teil des Mainstreams. Dies bedeutet, dass immer mehr Menschen sie aktiv einsetzen und sie in ihr tägliches Leben integrieren. Genau wie beim Surfen im Internet sind bei der Verwendung von AI, die viele Menschen übersehen, bestimmte Vorsichtsmaßnahmen zu treffen. Das Endergebnis wird darin bestehen, Ihre eigene Datensicherheit zu gefährden. In einer neuen Entwicklung hat ein Cybersicherheitsunternehmen einen Fehler in ChatGPT gefunden, der es Hackern ermöglicht, private Informationen von einem Google Mail -Konto eines Benutzers zu stehlen.
ChatGPT -Verwundbarkeit wurde gefunden, die Google Mail -Daten entlarvt haben könnten
Zu Beginn ist Radware das Team, das die Verwundbarkeit entdeckt hat. Openai hat bereits einen Patch dafür gesendet. Die Ergebnisse unterstreichen jedoch eine neue und komplexe Bedrohungslandschaft.
Das Cybersecurity -Team fand das Problem in der „Deep Research“ -Funktion von Chatgpt. Wenn Sie nicht bekannt sind, kann diese Funktion große Mengen an Informationen von verbundenen Apps wie Google Mail und Google Drive analysieren. Laut Radware hätte ein Hacker eine spezielle E -Mail mit geheimen Anweisungen erstellen können. Wenn ein Benutzer ChatGPT bat, eine tiefe Forschungsabfrage in seinem Google Mail-Posteingang durchzuführen, könnte der Chatbot in eine von Hacker kontrollierte Website scannen und vertrauliche Daten ausgelöst werden. Diese Daten können von Namen bis zu Adressen reichen.
Was diese Verwundbarkeit besonders bemerkenswert macht, ist, dass es ein Beispiel dafür ist, dass ein KI -Agent manipuliert wird, um Daten zu stehlen (wie von Bloomberg berichtet. Normalerweise verwenden schlechte Akteure KI als Tool, um einen direkten Angriff zu starten. Der Prozess war schwierig auszuführen. Es erforderte ein sehr spezifisches Szenario. Der Benutzer müsste eine Abfrage im Zusammenhang mit einem Thema bitten (wie HR).
Die Bedrohung war auch für traditionelle Sicherheitsinstrumente schwierig zu erkennen. Radware stellte fest, dass Standardsicherheitsmaßnahmen das Senden von Daten nicht sehen oder stoppen konnten oder stoppen konnten. Dies liegt daran, dass die Daten -Exfiltration aus der OpenAI -eigenen Infrastruktur stammt und nicht aus dem Gerät oder Browser des Benutzers.
Sicherheitslücke schnell gepatcht, spiegelt jedoch eine neue Bedrohungskategorie wider
Openai wurde über den Fehler informiert und im August gepatcht, bevor er ihn im September anerkannte. Ein Sprecher des Unternehmens gab an, dass die Sicherheit seiner Modelle oberste Priorität habe. Sie sagten auch, dass sie Forschung aus der Gemeinschaft begrüßen, die ihnen hilft, ihre Technologie zu verbessern.
Glücklicherweise ist diese Sicherheitsanfälligkeit nicht mehr ausgenutzt. Die Entdeckung weist jedoch auf eine neue Kategorie von Sicherheitsrisiken hin. Wenn KI -Agenten stärker und in unser tägliches Leben integriert werden, wird sichergestellt, dass sie kein Vektor für den Datendiebstahl sind, der für Entwickler und Cybersicherheitsprofis gleichermaßen eine entscheidende Herausforderung darstellt.
