La machine dogmatique : Pourquoi l'IA échoue au test moral de l'allocation d'organes

Les algorithmes étaient censés dépouiller le triage médical des préjugés humains, remplaçant l'instinct faillible par une optimisation froide et objective. Pourtant, lorsqu'on lui demande de décider qui reçoit un organe vital rare, l'intelligence artificielle fait preuve d'une clarté déconcertante — une clarté qui révèle moins sur la vérité objective et plus sur les limites de la correspondance de modèles statistiques.

Une étude menée par des chercheurs de l'Université d'État de Pennsylvanie en collaboration avec Mozilla.ai met à l'épreuve ce pragmatisme algorithmique. En évaluant comment les grands modèles de langage résolvent des scénarios hypothétiques d'allocation de reins entre des patients concurrents, les chercheurs ont découvert une divergence frappante entre l'éthique médicale humaine et la logique des machines. Là où les décideurs humains se débattaient avec des compromis complexes, les algorithmes se sont simplement fixés sur une seule métrique et ont rendu un jugement sans la moindre hésitation.

L'étude a présenté aux modèles de langage et aux participants humains des choix entre deux candidats éligibles, définis par l'âge, l'état de santé général et les habitudes de consommation d'alcool. Les humains ont constamment favorisé les patients plus jeunes par rapport aux plus âgés, pesant plusieurs traits simultanément et reconnaissant fréquemment l'ambiguïté inhérente à la décision. Face à des cas presque identiques, les évaluateurs humains ont montré une hésitation naturelle, reconnaissant ainsi que certains compromis moraux n'ont pas de réponse clairement calculable.

Les modèles d'intelligence artificielle ont pris un chemin étonnamment différent. Plutôt que d'équilibrer des facteurs concurrents, les modèles de langage se sont systématiquement fixés sur une seule variable : la consommation d'alcool. L'historique de consommation d'un patient l'emportait constamment sur l'âge et l'état de santé général aux yeux de l'algorithme. Plus remarquablement, les modèles n'ont montré aucune indécision. Là où les humains hésitaient ou cherchaient des options reflétant une incertitude morale, le logiciel a déclaré des gagnants avec une conviction absolue.

Cette confiance inébranlable est précisément là où réside le problème. Dans les flux de travail cliniques, le diagnostic et l'allocation des ressources, les systèmes de santé s'appuient de plus en plus sur des outils algorithmiques pour rationaliser les opérations. Pourtant, l'allocation de ressources rares, qu'il s'agisse d'un organe ou d'un avantage public, est rarement une question d'arithmétique pure. Elle exige de composer avec le contexte, l'éthique et les valeurs sociétales — des qualités qui ne peuvent pas être réduites à de l'ingénierie d'invites.

Lorsque les machines sont contraintes de porter des jugements de valeur, elles n'acquièrent pas de raisonnement moral ; elles se contentent d'amplifier des règles simplifiées sans la conscience humiliante de leur propre faillibilité. La Silicon Valley peut commercialiser ces outils comme des arbitres neutres, mais un algorithme qui échange l'hésitation humaine contre une certitude dogmatique est un ajustement profondément inconfortable pour le bloc opératoire.

Écrit par Andreas Hofer andreas.hofer@alpineweekly.com