Die dogmatische Maschine: Warum KI den moralischen Test der Organzuteilung nicht besteht

Algorithmen sollten menschliche Vorurteile aus der medizinischen Triage entfernen und das fehlbare Bauchgefühl durch kalte, objektive Optimierung ersetzen. Doch wenn es darum geht zu entscheiden, wer ein knappes, lebensrettendes Organ erhält, zeigt künstliche Intelligenz eine beunruhigende Art von Klarheit – eine, die weniger über die objektive Wahrheit und mehr über die Grenzen der statistischen Mustererkennung aussagt.

Eine Studie von Forschern der Penn State University in Zusammenarbeit mit Mozilla.ai stellte diesen algorithmischen Pragmatismus auf die Probe. Durch die Bewertung, wie große Sprachmodelle hypothetische Szenarien der Nierenzuteilung zwischen konkurrierenden Patienten lösen, deckten die Forscher eine starke Divergenz zwischen menschlicher medizinischer Ethik und Maschinenlogik auf. Wo menschliche Entscheidungsträger mit komplexen Kompromissen rangen, fixierten sich die Algorithmen einfach auf eine einzige Metrik und fällten Urteile ohne einen Moment des Zögerns.

Die Studie stellte Sprachmodellen und menschlichen Teilnehmern die Wahl zwischen zwei geeigneten Kandidaten, definiert nach Alter, allgemeiner Gesundheit und Alkoholkonsumgewohnheiten. Menschen bevorzugten konsequent jüngere Patienten gegenüber älteren, berücksichtigten dabei mehrere Merkmale gleichzeitig und erkannten häufig die inhärente Mehrdeutigkeit der Entscheidung an. Bei nahezu identischen Fällen zeigten menschliche Bewerter ein natürliches Zögern, womit sie effektiv anerkannten, dass einige moralische Kompromisse keine eindeutig berechenbare Antwort haben.

Die künstlichen Intelligenzmodelle schlugen einen auffallend anderen Weg ein. Anstatt konkurrierende Faktoren abzuwägen, fixierten sich die Sprachmodelle routinemäßig auf eine einzige Variable: den Alkoholkonsum. Die Trinkgeschichte eines Patienten überwog im Blickwinkel des Algorithmus konsequent Alter und allgemeinen Gesundheitszustand. Bemerkenswerterweise zeigten die Modelle keinerlei Unentschlossenheit. Wo Menschen zögerten oder Optionen suchten, die moralische Unsicherheit widerspiegelten, erklärten die Softwaresysteme Gewinner mit absoluter Überzeugung.

Diese unerschütterliche Zuversicht ist genau der Punkt, an dem es hakt. In klinischen Arbeitsabläufen, bei der Diagnose und der Ressourcenallokation verlassen sich Gesundheitssysteme zunehmend auf algorithmische Werkzeuge, um Abläufe zu optimieren. Doch die Zuteilung knapper Ressourcen, sei es ein Organ oder eine öffentliche Leistung, ist selten eine Frage reiner Arithmetik. Sie erfordert die Auseinandersetzung mit Kontext, Ethik und gesellschaftlichen Werten – Qualitäten, die nicht in Prompt Engineering destilliert werden können.

Wenn Maschinen gezwungen sind, Werturteile zu fällen, erwerben sie kein moralisches Denkvermögen; sie verstärken lediglich vereinfachte Regeln, ohne das demütigende Bewusstsein ihrer eigenen Fehlbarkeit. Das Silicon Valley mag diese Werkzeuge als neutrale Schiedsrichter vermarkten, aber ein Algorithmus, der menschliches Zögern gegen dogmatische Gewissheit eintauscht, ist eine zutiefst unbequeme Lösung für den Operationssaal.

Verfasst von Andreas Hofer andreas.hofer@alpineweekly.com