Die meisten Menschen wünschen sich schnelle und klare Antworten, wenn sie online nach medizinischem Rat suchen. Eine aktuelle Studie hat jedoch gezeigt, dass es gefährlich sein kann, sich für diese Antworten auf künstliche Intelligenz zu verlassen. In einer aktuellen Entwicklung hat Google seine „KI-Übersichten“ aus einigen gesundheitsbezogenen Suchanfragen entfernt, weil das Tool falsche oder unvollständige medizinische Informationen lieferte.
Ist Ihre medizinische Suche sicher? Warum Google die KI-Gesundheitsberatung zurückschraubt
Die Änderung erfolgt nach Recherchen von The Guardian. Die Studie ergab einige große Probleme beim Umgang der KI von Google mit komplizierten Gesundheitsdaten. Beispielsweise sagte die KI, was ein „Normalbereich“ für Leberbluttests sei, berücksichtigte dabei jedoch nicht das Alter, das Geschlecht oder die Rasse der Person. In einem anderen Fall sagte das System fälschlicherweise, dass ein Pap-Test auf Vaginalkrebs prüfen könne, obwohl er eigentlich nur auf Gebärmutterhalskrebs prüft.
Gesundheitsexperten sind über diese Zusammenfassungen sehr besorgt. Menschen von Gruppen wie Pancreatic Cancer UK und dem British Liver Trust sagten, dass medizinische Ratschläge oft mehr Kontext benötigen, als ein kurzes KI-Ergebnis liefern kann. Patienten mit schweren Erkrankungen sollten nicht einfach einfachen oder falschen Ratschlägen folgen; es könnte sie davon abhalten, die richtige Behandlung zu erhalten.
Reaktion und Anpassungen von Google
Als Reaktion auf die Erkenntnisse hat Google Maßnahmen zu bestimmten Suchbegriffen ergriffen. Bei Abfragen zu Leberbluttestbereichen, die zuvor eine KI-Zusammenfassung auslösten, werden nun häufig herkömmliche Suchergebnisse zurückgegeben. Allerdings scheint die Einführung dieser Entfernungen selektiv zu sein. Einige Benutzer stellten fest, dass bei einer bestimmten Frage möglicherweise keine KI-Übersicht mehr angezeigt wurde. Eine leicht umformulierte Version derselben Abfrage könnte jedoch immer noch eine solche Abfrage auslösen.
Google hat die allgemeine Qualität seines Tools verteidigt. Das Unternehmen gibt an, dass ein internes Team von Ärzten die gemeldeten Beispiele überprüft habe. Nach Angaben des Unternehmens wurden viele der KI-generierten Antworten von hochwertigen, seriösen Websites unterstützt. Google behauptete, dass man sich nicht zu einzelnen Entfernungen äußern würde, betonte jedoch, dass man ständig an umfassenden Verbesserungen bei der Handhabung sensibler Inhalte durch das System arbeite.
Ein Balanceakt für die Suche
Die Situation zeigt, wie die Spannungen in der Technologiewelt zunehmen. Unternehmen möchten KI nutzen, um Informationen leichter auffindbar und zugänglicher zu machen. Aber im Gesundheitswesen gibt es nicht viel Raum für Fehler. Ja, eine Zusammenfassung einer Filmhandlung oder eines Rezepts ist nicht sehr wichtig. Andererseits benötigen medizinische Daten ein Maß an Genauigkeit, mit dem einige aktuelle KI-Modelle nur schwer mithalten können.
Derzeit scheint Google einen vorsichtigeren Ansatz zu verfolgen. „Leises“ Zurückschalten der Funktion für bestimmte risikoreiche Themen für intelligente Sofortbewegungen. Für Benutzer dient es als Erinnerung daran, dass KI kein Ersatz für professionelle klinische Beratung ist.
