La bureaucratie par algorithme : l'expérience ratée de l'Australie en matière de soins aux personnes âgées automatisés

Il y a une ironie distincte dans la quête d'efficacité de l'État administratif moderne. Dans sa volonté de rationaliser la distribution de l'aide sociale, le gouvernement australien a externalisé la tâche délicate d'évaluer les besoins en soins aux personnes âgées à un logiciel. Les résultats sont précisément aussi chaotiques qu'on pourrait s'y attendre. Les chiffres officiels de fin mars révèlent que sur 757 citoyens âgés qui ont formellement contesté leurs attributions de financement dans le cadre du nouvel outil d'évaluation intégré, 141 ont obtenu un résultat plus favorable. Il s'avère que lorsqu'un être humain examine les diktats rigides de l'algorithme, la machine est fréquemment jugée insuffisante.

Introduit en fin d'année dernière, le mécanisme d'évaluation était censé moderniser le programme de soutien à domicile. Les mécanismes sont assez simples : un évaluateur humain pose à un demandeur âgé une série de questions concernant sa situation physique et sociale. Les données sont saisies dans le système, et l'algorithme calcule le niveau de financement approprié.

Crucialement, l'évaluateur humain n'a pas le droit d'outrepasser le verdict de la machine, même si l'allocation résultante est manifestement inadéquate. L'État a effectivement subordonné le jugement professionnel humain à une chaîne de code. Sur l'ensemble de données de mars, 135 autres cas restent dans les limbes bureaucratiques, tandis que 304 ont été simplement clos.

Les retombées ont, comme on pouvait s'y attendre, uni les politiciens de tout l'échiquier dans leur mépris pour ce mécanisme. Le médiateur du Commonwealth a lancé une enquête sur l'outil en avril, en réponse à de nombreuses plaintes selon lesquelles le processus automatisé est profondément inadapté à l'évaluation de conditions humaines complexes comme la fragilité ou le déclin cognitif. La sénatrice des Verts Penny Allman-Payne a fait valoir que les statistiques officielles de révision ne font qu'effleurer la surface. Elle soupçonne l'outil de sous-évaluer systématiquement les demandeurs, dont beaucoup n'ont ni l'énergie ni les compétences techniques pour lancer un appel formel contre une bureaucratie numérique sans visage.

Mark Aitken, ancien infirmier en gériatrie devenu défenseur, a dénoncé ce manque de supervision humaine plus tôt cette année. Il souligne la cruauté évidente de forcer des personnes vulnérables à passer par un processus d'appel alambiqué juste pour obtenir une aide vitale de base. La ministre de la Santé de l'ombre, Anne Ruston, s'est montrée tout aussi cinglante, soulignant que les demandes de révision ont multiplié depuis que le gouvernement a confié le pouvoir de décision à un ordinateur. Elle a fait valoir que trop de citoyens décèdent en attendant que leurs dossiers soient approuvés ou leurs évaluations révisées, notant que le Sénat a déjà adopté un projet de loi de réforme qui est actuellement bloqué à la Chambre basse par le gouvernement travailliste.

Toute cette débâcle illustre les dangers du techno-solutionnisme en politique publique. L'automatisation des tâches administratives peut sembler excellente sur une feuille de calcul ministérielle, mais l'application d'algorithmes rigides aux réalités nuancées du vieillissement crée inévitablement des angles morts. Tant que le gouvernement ne restaurera pas l'autonomie humaine dans le processus d'évaluation, les personnes âgées australiennes continueront de se retrouver à négocier avec une machine programmée pour traiter des données, et non pour comprendre la détresse.

Écrit par Andreas Hofer andreas.hofer@alpineweekly.com