Einige Benutzer haben ein merkwürdiges Verhalten im neuen erweiterten Modus von Google Translate entdeckt. Anstatt seine eigentliche Aufgabe zu erfüllen, nämlich Texte zu übersetzen, wird er dazu gebracht, wie ein Chatbot zu antworten, wenn Anweisungen in der Eingabe versteckt sind. Der Fehler liegt wahrscheinlich an der Gemini-Integration, die die versteckten Eingaben aus dem Text liest und sich wie ein Chatbot verhält.
Benutzer verwandeln Google Translate in einen KI-gestützten Chatbot
Bereits im November letzten Jahres führte Google einen neuen „Erweiterten Modus“ für seine Übersetzer-App ein. Das Unternehmen integriert im Rahmen seines umfassenderen Gemini-Einführungsplans ein KI-Modell in die App. Der jeweilige Modus basiert auf einem großen Sprachmodell. Es wurde entwickelt, um Slang, Redewendungen und Konversationskontexte in ausgewählten Sprachen zu verstehen. Einige Benutzer haben jedoch kürzlich festgestellt, dass das System manchmal Befehlen folgt, anstatt sie zu übersetzen. Dies ist ein klassisches Beispiel für eine sofortige Injektion.
Ein Test veröffentlicht am WenigerFalsch schlug vor, dass die App unter der Oberfläche ein System zur Befehlsfolge ausführt. Bei direkter Nachfrage identifiziert sich der neue Modus von Google Translate als ein großes, von Google trainiertes Sprachmodell und verhält sich wie ein Chatbot. Auf Reddit und Tumblr geteilte Screenshots zeigen, wie Benutzer es in verschiedene Arten von Gesprächen einbinden. Obwohl der Vorfall nicht schockierend ist, zeigt er doch, wie die neuesten KI-Tools auf einfache und unkomplizierte Weise modifiziert werden können.
Der klassische Modus bleibt unangetastet
Google hat sich zu dem Problem noch nicht geäußert. Das Prompt-Injection-Problem liegt Berichten zufolge außerhalb des KI-Bug-Bounty-Bereichs. Die erweiterte Funktion unterstützt derzeit Englisch und etwa zwanzig weitere Sprachen, darunter Japanisch und Chinesisch, auf Mobil- und Webplattformen. Auf jeden Fall können Benutzer, die den Übersetzer wissentlich oder unwissentlich in einen Chatbot verwandelt haben, in den klassischen Modus wechseln und den erweiterten Modus wieder aktivieren, um die ursprüngliche Funktionalität wiederherzustellen. Das Problem wird möglicherweise in den kommenden Wochen von Google behoben.
