Windows Recall ist eine der umstrittensten Funktionen des KI-Zeitalters. Es ist auffällig, dass Microsoft, das Milliarden in den ChatGPT-Hersteller OpenAI investiert hat, von Anfang an so nachlässig war. Das Tool war ein Alptraum für den Datenschutz, was zu einer Verzögerung bei der Einführung führte. Jetzt nimmt Microsoft die Implementierung nach einigen Optimierungen wieder auf, aber der KI-gestützte Recall erfasst immer noch sensible Daten, wenn dies nicht der Fall sein sollte.
Der Rückruf war beim Start ein Alptraum für die Privatsphäre
Der Start von Recall verlief aufgrund mehrerer Faktoren, die die Privatsphäre und Sicherheit der Benutzer bedrohten, etwas holprig. Falls Sie es nicht wissen: Sobald die Funktion aktiviert ist, werden ständig Screenshots erstellt, während Sie Ihren PC verwenden. Auf diese Weise können Sie ihm Fragen zu Dingen stellen, die Sie während Ihrer Sitzung gesehen haben. Sie können Recall beispielsweise fragen, wo Sie ein Paar blaue Schuhe gesehen haben, und Recall durchsucht die Screenshots, um die Website zu finden, auf der Sie den Artikel gesehen haben.
Allerdings stellte die fehlende Verschlüsselung in den Screenshots von Recall eine Gefahr für die Privatsphäre dar. Es gab auch keine Tools, um zu verhindern, dass Dritte mit Zugriff auf Ihren Laptop oder PC an die Screenshots gelangen. Aufgrund der Kontroverse verzögerte Microsoft die Einführung der Funktion und arbeitete an wichtigen Optimierungen im Zusammenhang mit der Sicherheit Ihrer Daten. Beispielsweise aktivierte das Unternehmen die Verschlüsselung von Screenshots und integrierte Tools für den PC, um Sie vor dem Aufruf von Recall zu identifizieren und so zu verhindern, dass Dritte auf die erfassten Daten zugreifen.
Ein weiteres Problem bei Microsofts Rückruf bestand darin, dass sensible Daten, darunter Kreditkarten und Sozialversicherungsnummern, erfasst wurden, ohne diese zu verwischen oder zu verbergen. Um dieses Problem zu beheben, hat das Unternehmen eine Standardoption für den Dienst aktiviert, mit der vertrauliche Informationen nicht erfasst werden. Es scheint jedoch, dass das Problem in der neuesten Version der Funktion immer noch besteht.
Die Rückruf-KI von Microsoft kann nicht feststellen, ob Daten außerhalb von Zahlungsplattformen vertraulich sind
Avram Piltch von Tom’s Hardware hat einige Experimente durchgeführt, um zu testen, wie sicher die Funktion jetzt ist. Er konzentrierte sich vor allem auf die Fähigkeit von Recall, sensible Daten zu identifizieren und zu verbergen. Die Ergebnisse waren nicht besonders ermutigend, da Recall diese Art von Daten nur auf tatsächlichen Zahlungsplattformen korrekt identifiziert. Das Experiment hat gezeigt, dass der KI-gestützte Dienst beim Betreten von Zahlungsplattformen im Geschäft keine sensiblen Daten erfasst.
Im aktuellen Zustand scheint die Technologie von Recall jedoch nicht in der Lage zu sein, vertrauliche Informationen anhand des Kontexts zu identifizieren. Mit anderen Worten: Recall erfasst beispielsweise Kreditkartennummern, die in ein Notepad-Fenster oder eine PDF-Datei eingegeben werden. Piltch versuchte sogar, Recall „die Sache zu erleichtern“, indem er explizit darauf hinwies, dass die Daten privater Natur seien. Beispielsweise gab er „Capital One Visa“ vor den Kreditkartennummern in ein Notizblockfenster ein. Die KI-Funktion erfasste solche Daten jedoch weiterhin anstandslos.
Piltch versuchte in einem anderen Test noch deutlicher zu werden. Er erstellte eine HTML-Seite mit einem Formular, in dem ausdrücklich stand: „Geben Sie unten Ihre Kreditkartennummer ein.“ Allerdings erfasste Recall in diesen Fällen weiterhin sensible Daten. Es scheint, dass die Funktion die Art der Daten nicht anhand des Kontexts erkennt, sondern prüft, ob Sie eine Zahlungsplattform aufrufen. Nur in diesen Fällen blockiert Recall die Screenshots.
Das Unternehmen wird die Erkennung sensibler Informationen im Laufe der Zeit verbessern
Es scheint jedoch, dass Microsoft plant, die Datenfilterung im Laufe der Zeit zu verbessern. „Wir werden diese Funktionalität weiter verbessern. Wenn Sie vertrauliche Informationen finden, die aufgrund Ihres Kontexts, Ihrer Sprache oder Ihrer Region herausgefiltert werden sollten, teilen Sie uns dies bitte über den Feedback Hub mit“, heißt es in einem Abschnitt des Microsoft-Blogs. „Wir haben in den Einstellungen auch eine Option bereitgestellt, deren Aktivierung wir Ihnen empfehlen. Dadurch werden die Apps und Websites, die Sie lieber vom Rückruf ausschließen möchten, anonym geteilt, um uns bei der Verbesserung des Produkts zu helfen.“ fügt die Firma hinzu.
Microsoft hat einiges richtig gemacht, aber es gibt Raum für Verbesserungen
Glücklicherweise hat Microsoft den Zugriff Dritter auf Recall-Daten deutlich erschwert. Wenn Sie es nutzen möchten, ist es zwingend erforderlich, Windows Hello für die biometrische Überprüfung einzurichten. Das bedeutet, dass Ihr PC prüft, ob Sie es wirklich sind, bevor er Ihnen erlaubt, Screenshots aufzurufen.
Piltch erinnert jedoch daran, dass Windows Hello auch den Zugriff mit einer PIN ermöglicht. Daher könnte ein Dritter dennoch Zugriff auf Ihre Daten erhalten, wenn er auf irgendeine Weise an Ihre private PIN gelangt. Dies könnte Ihnen in anderen Zusammenhängen passieren, beispielsweise wenn jemand Ihr Telefon stiehlt. Es liegt also an Ihnen, Ihre Anmeldeinformationen oder Passwörter zu schützen.
Ein Pluspunkt ist außerdem, dass sich seit Beginn nichts geändert hat: Die Verarbeitung von Screenshots erfolgt ausschließlich geräteintern. Die Screenshot-Verschlüsselung ist ein zusätzlicher Schutz für den Fall, dass es jemandem gelingt, die bisherigen Sicherheitsmaßnahmen zu umgehen.
Dennoch würden sich viele sicherlich sicherer fühlen, wenn Recall tatsächlich in der Lage wäre, die Erfassung sensibler Daten von überall und nicht nur von Zahlungsplattformen aus zu blockieren. Das ist natürlich keine leichte Aufgabe, aber Microsoft hat beschlossen, eine Funktion zu entwickeln, die Sie ständig „beobachtet“, während Sie sie verwenden. Daher sollte es auch bereit sein, die Sicherheits- und Datenschutzanforderungen der Benutzer zu akzeptieren.
