Entstehen durch Künstliche Intelligenz (KI) jetzt Gesundheitsrisiken? Googles KI-gestützte Funktion „Übersicht mit KI“, mit der Nutzerinnen und Nutzer Informationen zu allen möglichen Themen über Fragen oder Schlagworte ermitteln kann, hat kürzlich gezeigt, wie fehlerbehaftet KI sein kann und wie viel Skepsis der Umgang erfordert. Vorfälle, die „The Guardian“ zusammengetragen hat, machen deutlich, dass immer wieder Fehler oder Ungenauigkeiten in der Beantwortung durch KI auftauchen. Bei gesundheitlichen Themen kann das schwerwiegende Folgen haben.
Auch interessant
Zumindest wenn man das, was das System ausgespuckt hat, nicht noch einmal gegenprüft. Laut „Guardian“ hatten Experten kürzlich von der Google-KI, basierend auf dem Programm Gemini, ermittelte Informationen zu Leberfunktionstests als „alarmierend“ und „gefährlich“ eingestuft. Demnach habe Google falsche Informationen geliefert, die zu gesundheitlichen Schäden beim Fragesteller führen können. Die Informationen könnten Nutzer dazu veranlassen anzunehmen, sie seien gesund, obwohl sie es nicht seien.
Google-KI liefert falsche Normalwerte bei Leberbluttests
Laut der britischen Tageszeitung liefere die Suche nach „Was ist der normale Bereich für Leberbluttests?“ eine „Unmenge an Zahlen, wenig Kontext und keine Berücksichtigung von Nationalität, Geschlecht, ethnischer Zugehörigkeit oder Alter der Patienten“. Die Ergebnisse, bei denen die Google-KI etwas als normal eingestuft habe, könne stark davon abweichen, was nach allgemeiner medizinischer Erkenntnis als normal gilt. Das wiederum könne schwer kranke Menschen davon abhalten, Maßnahmen zu ergreifen, wie etwa Hilfe bei einem Arzt zu suchen.
Auch interessant
Von einem flächendeckenden Problem kann jedoch nicht die Rede sein. Der überwiegende Teil der Nutzer und Nutzerinnen zeigt sich zufrieden mit den Ergebnissen, die die KI ihnen gibt. Google habe trotzdem reagiert und einige seiner Zusammenfassungen herausgenommen, heißt es weiter. Die Suchanfragen „Was ist der Normalbereich für Leberbluttests?“ und „Was ist der Normalbereich für Leberfunktionstests?“ spuckten nun keine Ergebnisse mehr aus. Zudem wird ein Sprecher von Google zitiert. Er verspricht: Man arbeite an besseren Antworten, für Fälle, bei denen Nutzer wenig Kontext bei ihren Anfragen mitlieferten.
Leberfunktionstest: Expertin warnt vor ungenauen Google-Antworten
Vanessa Hebditch, Kommunikations- und Politikdirektorin des British Liver Trust, einer Wohltätigkeitsorganisation für Lebergesundheit in Großbritannien, gibt jedoch zu bedenken, dass man die zweifelhaften Antworten noch aufrufen kann. Nämlich dann, wenn man die Ausgangsfrage auch nur ein wenig auf andere Art formuliert. Hebditch erklärt weiter: „Ein Leberfunktionstest (LFT) ist eine Zusammenstellung verschiedener Bluttests. Die Interpretation der Ergebnisse und das weitere Vorgehen sind komplex und umfassen weit mehr als nur den Vergleich von Zahlen.“
Auch interessant
Im Falle der Leberwerte könnte Google die Ergebnisse zwar einfach anpassen, jedoch sieht die Expertin ein viel größeres Problem: Die Ungenauigkeit bei Anfragen aus dem Gesundheitsbereich. Sie fordert, dass Google Nutzerinnen und Nutzer zu „fundierten, recherchierten Gesundheitsinformationen und Behandlungsangeboten von vertrauenswürdigen Gesundheitsorganisationen weiterleitet“.
Google entfernt umstrittene Krebs-Informationen trotz Kritik nicht
Als „völlig falsch“ und „wirklich gefährlich“ bezeichneten Experten außerdem die Ergebnisse, die Google zum Thema Krebs und psychische Gesundheit herausgibt. Diese habe Google mit Begründung nicht entfernt, schreibt der Guardian weiter, dass es in den Antworten auch seriöse weiterführende Quellen gebe sowie der Hinweis enthalten sei, ärztlichen Rat einzuholen.
