Das Segment der künstlichen Intelligenz entwickelt sich weiter und verändert die Technologiebranche auf unterschiedliche Weise. Eines der Ziele der wichtigsten KI-fokussierten Unternehmen ist es, eine KI-gestützte Suchmaschine anzubieten, wie Google kürzlich bestätigte. Auch OpenAI, die Muttergesellschaft von ChatGPT, sucht nach dem gleichen Thema und testet seinen Dienst sogar bei einigen Nutzern. Es scheint jedoch, dass die ChatGPT-Suche derzeit irreführende Ergebnisse liefern kann.
Eine Untersuchung von The Guardian ergab, dass die ChatGPT-Suche in ihrem aktuellen Zustand dazu neigt, manipulierte Ergebnisse zu liefern. KI-Suchmaschinen funktionieren, indem sie Daten aus den Ergebnissen nach einer Suche abrufen und verarbeiten, um eine zusammengefasste Antwort anzubieten, die dabei hilft, das Problem des Benutzers schnell zu lösen. Es scheint jedoch noch viel Arbeit vor uns zu liegen, bis die Ergebnisse absolut zuverlässig sind.
ChatGPT-Suchergebnisse sind anfällig für Manipulationen, um Benutzer in die Irre zu führen, wie ein Experiment zeigt
Offenbar ist die Art und Weise, wie ChatGPT Search Daten erfasst und verarbeitet, anfällig für mögliche Manipulationen durch „Ad-Injection“. Bei dieser Methode werden versteckte Inhalte zum Code von Websites hinzugefügt, um die Ergebnisse von KI-gestützten Suchmaschinen zu beeinflussen. Der Inhalt kann lange Anweisungen oder Texte enthalten, die zu einer manipulierten Ausgabe zugunsten der Interessen einer Person führen könnten.
Beispielsweise könnte die Website eines Geschäfts mithilfe von Ad-Injection dafür sorgen, dass die Ergebnisse von KI-gestützten Suchmaschinen äußerst positive Bewertungen zu Produkten widerspiegeln, obwohl es viele negative Bewertungen gibt. Tatsächlich bestätigte die Quelle, dass dies durch ein Experiment geschieht. Das Guardian-Team hat eine gefälschte Produktseite mit vielen negativen Bewertungen und versteckten Anweisungen erstellt, die positive Bewertungen begünstigen. Die ChatGPT-Suchergebnisse lieferten durchweg positives Feedback zum betreffenden Produkt.
Es ist bemerkenswert, dass ChatGPT Search ein relativ neues Tool ist. Es ist nicht einmal öffentlich verfügbar, sondern als Test für zahlende Abonnenten. Daher ist es sehr wahrscheinlich, dass OpenAI daran arbeitet, diese Probleme vor einer zukünftigen Masseneinführung zu beheben.
Experten raten zur Vorsicht bei KI-gestützten Suchmaschinen
Dennoch empfehlen Experten wie Karsten Nohl – Wissenschaftler beim Cybersicherheitsunternehmen SR Labs –, bei KI-gestützten Suchergebnissen vorsichtig vorzugehen. Er sagt, wir sollten KI-Tools als „behandeln“Co-Piloten” und sie nicht alle ins Rampenlicht rücken. Das heißt, Sie sollten immer noch vorsichtig sein, was die Richtigkeit der Ergebnisse von KI-Suchmaschinen angeht.
Google hatte ähnliche Probleme bei der Implementierung von KI-Übersichten in der Suche. Das Unternehmen hat daran gearbeitet und jetzt funktioniert die Funktion viel besser, aber es gibt noch viel Raum für Verbesserungen. Hoffentlich wird es nicht mehr lange dauern, bis KI-gestützte Suchergebnisse vollkommen vertrauenswürdig sind.
