Google stellt KI-Funktion für Crowdsourcing-Gesundheitsratschläge stillschweigend ein

Google hat eine experimentelle KI-Suchfunktion, die Gesundheitsratschläge aus Online-Gesprächen sammelte, stillschweigend eingestellt. Dieser Schritt erfolgt inmitten wachsender Bedenken hinsichtlich der Nutzung von KI für medizinische Informationen durch das Unternehmen.

Die Funktion mit dem Namen „What People Suggest“ sollte gesundheitsbezogene Erfahrungen von Internetnutzern zusammenfassen und neben den Standard-Suchergebnissen anzeigen. Laut Google nutzte das System KI, um Kommentare und Diskussionen aus dem gesamten Web zu durchsuchen und sie in kurze Zusammenfassungen umzuwandeln, die Aufschluss darüber geben sollten, wie Menschen mit ähnlichen Beschwerden mit Symptomen oder alltäglichen Herausforderungen umgehen.

Das Tool wurde jedoch nun eingestellt. Eine Handvoll mit der Angelegenheit vertrauter Insider bestätigte, dass die Funktion nicht mehr aktiv ist, und ein Google-Sprecher bestätigte ihre Einstellung.

Das Unternehmen bezeichnete den Schritt als Teil einer umfassenderen Anstrengung, das Layout seiner Suchergebnisse zu optimieren – nicht unbedingt als Reaktion auf Sicherheitsbedenken.

Bei der Einführung pries Google die Funktion als eine Möglichkeit, wie KI den Zugang zu Gesundheitsinformationen erweitern könnte, indem sie reale Geschichten mit Expertenwissen verbindet. Die Idee basierte auf der Annahme, dass Patienten oft sowohl professionelle Beratung als auch Ratschläge von anderen suchen, die mit denselben Problemen kämpfen.

Nehmen wir zum Beispiel Arthritis: Jemand, der danach suchte, hätte möglicherweise Zusammenfassungen gesehen, die zeigten, wie andere Patienten Trainingspläne oder Bewältigungsstrategien in Online-Foren diskutieren.

Anfangs erschien das Tool in den mobilen Suchergebnissen in den USA.

Die Entfernung erfolgt zu einem Zeitpunkt, an dem Tech-Firmen zunehmendem Druck ausgesetzt sind, die Genauigkeit von KI-generierten Inhalten zu gewährleisten – insbesondere in sensiblen Bereichen wie dem Gesundheitswesen, wo irreführende Ratschläge schwerwiegende Auswirkungen haben können.

Anfang dieses Jahres deckte The Guardian auf, dass einige Nutzer ungenauen oder potenziell riskanten Gesundheitsinformationen ausgesetzt waren, die von Googles KI-Zusammenfassungen erstellt wurden. Diese „KI-Übersichten“ erscheinen oben auf vielen Suchseiten, und Milliarden Menschen sehen sie monatlich.

Damals verteidigte Google das System und betonte, dass seine KI-Zusammenfassungen auf glaubwürdige Quellen verlinkten und Nutzer häufig dazu ermutigten, qualifizierte Fachkräfte zu konsultieren.

Kurz darauf zog das Unternehmen die KI-gestützten Zusammenfassungen für einige medizinische Suchanfragen zurück, obwohl die Funktion in anderen Themenbereichen weiterhin verbreitet ist.

In der Zwischenzeit investiert Google weiterhin massiv in KI-Anwendungen im Gesundheitswesen. Auf einer bevorstehenden Veranstaltung planen Unternehmensführer, neue Forschungsergebnisse, technologische Durchbrüche und Partnerschaften zur Bewältigung globaler Gesundheitsprobleme vorzustellen.

Für Kritiker und Regulierungsbehörden gleichermaßen unterstreicht diese Episode die wachsende Reibung zwischen der schnelllebigen Innovation bei KI-gestützten Suchwerkzeugen und dem entscheidenden Bedürfnis nach vertrauenswürdigen, gut geprüften Informationen – insbesondere, wenn medizinischer Rat Entscheidungen im echten Leben beeinflussen könnte.