In Google Gemini wurde ein Fehler festgestellt, ein Fehler, mit dem Angreifer E -Mail -Zusammenfassungen für Phishing -Zwecke entführten. Dieser Fehler wurde in Google Gemini für den Arbeitsbereich entdeckt.
Mit Gemini Fehler ermöglicht Angreifer den Phish -Benutzern über Googles KI
Also, was genau ist hier los? Google Gemini kann ausgenutzt werden, um E -Mail -Zusammenfassungen zu generieren, die legitim erscheinen, aber nicht. Dazu gehören böswillige Anweisungen oder Warnungen, die die Benutzer auf Phishing -Websites leiten.
Einige von Ihnen erinnern sich vielleicht, dass im letzten Jahr ähnliche Angriffe gemeldet wurden. Von Google wurden Schutzmaßnahmen ergriffen, aber es scheint, dass die gleiche Technik noch funktioniert.
Dies wurde durch Odin, Mozillas Bug Bounty -Programm für generative KI -Tools, offengelegt. Ein Forscher namens Marco Figueroa hat es offenbart, der Manager von Genai Bug Bounty Programs bei Mozilla ist.
Wie funktioniert es? Nun, der Angreifer erstellt eine E -Mail mit einer unsichtbaren Richtlinie für Gemini. Der Angreifer kann die böswillige Anweisung im Körpertext am Ende der Nachricht verbergen. Er kann dies tun, indem er HTML und CSS verwendet, die die Schriftgröße auf Null und ihre Farbe auf Weiß einstellen.
Diese Anweisung wird aufgrund dieser Tatsache nicht in Google Mail gerendert. In Anbetracht der Tatsache, dass keine Anhänge oder Links vorhanden sind, sind die Änderungen ziemlich hoch, dass die Nachricht den Posteingang des potenziellen Ziels erreicht und nicht in Spam endet oder flach blockiert wird.
Wenn die Person, die die E -Mail erhalten hat, Gemini aufforderte, eine Zusammenfassung der E -Mail zu generieren, wird die KI -Tools von Google die unsichtbare Richtlinie analysieren und sie befolgen.
Google sagt, es habe keine Hinweise darauf, dass Gemini so manipuliert wurde
BleepingComputer hat sich an Google wandte, um einen Kommentar zu erhalten, und ein Sprecher zeigte auf einen Google -Blog -Beitrag zu Sicherheitsmaßnahmen gegen schnelle Injektionsangriffe. Er sagte auch Folgendes: „Wir verhärteten unsere ohnehin schon robusten Abwehrkräfte durch Red-Team-Übungen, die unsere Modelle schulen, um sich gegen diese Art von kontroversen Angriffen zu verteidigen.“
Er sagte auch, dass Google keine Anzeichen dafür gesehen habe, dass Gemini in der Art und Weise, wie Figueroa gezeigt hat, manipulierte.
