Was unterscheidet Apple von Google? Einer von beiden versucht zumindest, Ihre Daten privat zu halten … und der andere ist Google. In einem weiteren umstrittenen Schritt scheint Gemini automatisch Dokumente ohne Erlaubnis zu scannen. Der Fall in diesem Bericht ist ein Einzelfall, aber er weist auf ein potenzielles Problem hin, über das die Leute sich Sorgen machen sollten.
Das ist eine ziemlich schlechte Geschichte, nachdem Apple Apple Intelligence vorgestellt hat. Mit Apples KI werden alle wichtigen KI-Funktionen auf dem Gerät ausgeführt, aber wenn es nötig ist, greift Ihr Telefon auf GPT-4o zu. Nun, das System wird Sie um Ihre Erlaubnis bitten, Kontakt aufzunehmen. Ihre Anfrage berührt also kein Rechenzentrum, bis Sie dem Telefon die Zustimmung geben.
Was gibt es Neues? Apple ist „das Datenschutzunternehmen“ und ist in dieser Hinsicht jedem anderen Unternehmen weit überlegen.
Google Gemini könnte Dokumente ohne Erlaubnis scannen
Alleine die Einzelheiten sind eine etwas verwirrende Geschichte. Den ersten Bericht darüber erhielten wir von Kevin Bankston, einem Datenschutzaktivisten und derzeitigen Datenschutzbeauftragten von Facebook. Er postete auf X, dass Gemini eines seiner PDF-Dokumente automatisch scannt.
„Habe gerade meine Steuererklärung in @Google Docs aufgerufen – und Gemini hat sie unaufgefordert zusammengefasst. Also … Gemini nimmt automatisch sogar die privaten Dokumente auf, die ich in Google Docs öffne? WTF, Leute. Ich habe nicht darum gebeten. Jetzt muss ich neue Einstellungen finden, von denen ich nie erfahren habe, um diesen Mist abzustellen.”
Gemini scannt also nicht nur angeblich Dokumente, sondern scheut sich auch nicht, sensible Dokumente wie Steuererklärungen zu scannen. Das ist ein bisschen beängstigend. Kurz darauf antwortete ein Google-Sprecher:
„Unsere generativen KI-Funktionen sind so konzipiert, dass sie den Benutzern Wahlmöglichkeiten bieten und ihnen die Kontrolle über ihre Daten lassen. Um Gemini in Google Workspace verwenden zu können, muss der Benutzer es proaktiv aktivieren. Wenn er dies tut, werden seine Inhalte auf datenschutzfreundliche Weise verwendet, um nützliche Antworten auf seine Eingaben zu generieren. Sie werden aber ansonsten nicht ohne Erlaubnis gespeichert.”
Verwirrende Geschichte
Laut Google müssen Sie die Einstellungen also aktivieren. Wenn Sie sich für das Gemini for Workspace Labs-Programm anmelden, müssen Sie bestimmten Nutzungsbedingungen zustimmen, aber das Scannen von Dokumenten ist eine Berechtigung, die Sie separat aktivieren müssen.
Bankston nutzte Gemini, um die Einstellungen zum Deaktivieren dieser Funktion aufzuspüren, und hier wird es verwirrend. Offenbar schlug Gemini mehrere Seiten vor, aber keine davon zeigte ihm die richtige Einstellung. Er suchte nach diesen Datenschutzeinstellungen, obwohl er das nicht hätte tun sollen. Datenschutzeinstellungen für KI-Tools sollten im Vordergrund stehen. Warum wurden ihm für eine Einstellung verschiedene Seiten vorgeschlagen?
Nun, er fand schließlich die Einstellungen, mit denen die Scanfunktion deaktiviert werden konnte, und hier wird die Geschichte noch verworrener. Der Schalter, mit dem Dokumente in Drive gescannt werden konnten, war deaktiviert. Es scheint also, dass das Deaktivieren der Funktion Sie nicht vor dem Scannen von Dokumenten schützt.
Bankston hat herausgefunden, dass Gemini automatisch andere Dateien desselben Typs scannt, wenn Sie es in einem Dokumenttyp öffnen. Wenn Sie Gemini also in einer PDF-Datei öffnen, scannt es möglicherweise automatisch alle PDF-Dateien, die Sie öffnen. Das ist eine seltsame Mechanik und etwas, worüber Google uns informieren sollte.
Er fragt sich auch, ob dies daran liegt, dass er sich letztes Jahr für das Google Workspace Lab angemeldet hat. Es ist nicht abzusehen, ob dies Auswirkungen auf die Berechtigungen von Gemini hat.
Dies wirft ein Licht auf ein ziemlich großes Problem
Okay, wir brauchen keine Unternehmen, die das jetzt tun. Wir brauchen keine Unternehmen, die bei Berechtigungen hinterhältig sind und die Leute auf sinnlose Suche nach einfachen Schaltern schicken. An diesem Punkt sollte die Navigation durch die Dienste von Google ziemlich intuitiv sein. Es sollte leicht sein, einfache Einstellungen zu finden, die Funktionen aktivieren und deaktivieren.
Also, Frage: Warum zum Teufel muss eine Person Gemini bitten, Einstellungen für sie zu finden? Nächste Frage: Warum gab Gemini ihm mehrere Antworten, um eine Einstellung zu finden? Letzte Frage: Warum war KEINE dieser Seiten richtig? Eine Person sollte das nicht durchgehen müssen, nur um eine Einstellung zu finden und zu deaktivieren, die es Google ermöglicht, Dokumente zu scannen, ohne es ihr mitzuteilen. Und noch einmal: Wenn Apple Intelligence ein Rechenzentrum anzapfen möchte, benachrichtigt Sie die Software von Zeit zu Zeit. Sie wissen, wann Ihre Daten an OpenAI gehen.
In der Zwischenzeit scannt Google Dokumente, ohne es irgendjemandem mitzuteilen, und verbirgt Einstellungen. Google ist das Unternehmen, das am meisten davon spricht, KI „verantwortungsvoll“ zu entwickeln. Nun, Google, wenn Sie möchten, dass die Leute das glauben, müssen die Leute Ihnen vertrauen, und Sie haben es bisher nicht geschafft, unser Vertrauen zu gewinnen.
Der Schalter?
Ein weiteres Problem ist die Tatsache, dass die Schalter für Bankston deaktiviert waren und Gemini immer noch die Dokumente scannte. Wie kann man nur sagen, wie beschissen das ist? Bankston vermutete, dass es daran liegen könnte, dass er sich für das Labor angemeldet hatte, aber das sollte kein Problem sein.
Dies lässt Google in diesem Szenario nur noch schlechter dastehen. Es bedeutet, dass es überhaupt nicht klar ist, wie man dafür sorgt, dass Gemini Ihre Dokumente nicht scannt. Es gibt Verwirrung um das Problem, und die sollte es nicht geben. Man sollte nicht fragen müssen, warum Googles Schalter nicht funktionieren.
Die Antwort von Google
Und schließlich war Googles Antwort ein wenig daneben. Auch hier ist sie nicht klar. Der Sprecher sagte, dass die Inhalte der Nutzer „auf eine Weise verwendet werden, die die Privatsphäre schützt“. Was bedeutet das? Der Kommentar geht nicht näher darauf ein, wie die Privatsphäre geschützt wird. Er erwähnt nicht, welche Sicherheitsmaßnahmen Google implementiert hat, also könnte nach allem, was wir wissen, alles damit passiert sein.
Das Hauptproblem
Dies verdeutlicht eines der größten Probleme von KI-Unternehmen: Transparenz. Regierungsstellen kämpfen mit aller Kraft darum, dass die Unternehmen uns einfach sagen, was vor sich geht. Die Unternehmen tun ihr Möglichstes, um alles vor der Öffentlichkeit geheim zu halten, und das ist das Schlimmste, was mit der KI-Technologie passieren kann.
Die Menschen stehen der KI-Technologie bereits skeptisch gegenüber. Wir brauchen keine Geschichten darüber, dass Gemini Dokumente scannt und den Benutzern nichts davon sagt. Und wir brauchen auch keine halbherzigen Antworten, die den Benutzern sagen, dass ihre Privatsphäre geschützt wird, ohne zu erklären, wie. Wir brauchen, dass das Unternehmen sich verbessert und uns einfach wissen lässt, was vor sich geht.
