nov. 2, 5:01 AM
Le coût élevé de l'efficacité numérique
L'expérimentation de reconnaissance faciale en Australie-Occidentale a permis d'arrêter des suspects, mais a également fait passer 1,3 million de citoyens innocents par un filtre algorithmique.
Quelle part de vie privée un citoyen est-il prêt à échanger contre une couche supplémentaire de sécurité municipale ? En Australie-Occidentale, la police a récemment fourni une réponse concrète : environ 1,38 million de visages scannés en échange de 122 arrestations.
Pendant cinq mois, des unités de surveillance mobiles ont discrètement passé au crible quarante-trois lieux dans les districts régionaux et métropolitains. Des centres-villes animés au Perth Royal Show, où plus de 220 000 festivaliers ont été traités en temps réel, des caméras montées sur des véhicules de police ont comparé les foules aux bases de données de l'État. Ce filet technologique a non seulement permis les 122 arrestations, mais a également incité les agents à approcher 146 délinquants sexuels enregistrés et à effectuer dix contrôles de bien-être.
Alors que les fourgons de surveillance retournent à leurs dépôts pour une évaluation interne, le débat sur leur déploiement a rapidement dégénéré en une bataille de statistiques sélectives. Les autorités policières n'ont pas tardé à saluer l'essai comme un triomphe opérationnel, se vantant d'un taux d'erreur microscopique de 0,00065 pour cent. Ce chiffre, dérivé de seulement neuf alertes incorrectes sur près de 1,4 million de scans, constitue un titre impressionnant pour les relations publiques. Le commissaire de police Col Blanch a reconnu que la technologie était loin d'être parfaite, bien qu'il ait maintenu que les agents donnaient suite aux fausses correspondances avec des questions de routine, tout comme ils le feraient si un passant vigilant avait soulevé des soupçons.
Les critiques des défenseurs des libertés civiles ont été tout aussi rapides. Bill Rowlings de Civil Liberties Australia a accusé les forces de l'ordre de comptabilité astucieuse, arguant que diviser neuf erreurs par l'ensemble de la population scannée obscurcit la véritable métrique. Selon lui, la véritable mesure de la précision réside dans la question de savoir si ces 122 arrestations tiennent finalement devant les tribunaux. Si la moitié sont rejetées, a-t-il noté, le taux d'échec opérationnel semble radicalement différent.
Cette guerre statistique met en lumière une question structurelle plus profonde concernant la police moderne. L'autorité indépendante de protection de la vie privée de l'État, l'Office of the Information Commissioner WA, a révélé n'avoir eu aucun rôle dans la conception de l'expérimentation, avertissant plutôt des préjudices subtils à la vie privée collective lorsque la surveillance de masse devient routinière. Bien que la police insiste sur le fait que les visages non identifiés ont été pixélisés instantanément et écartés, le filtrage automatique de millions de personnes sans test de suspicion préalable représente un changement subtil dans le contrat social.
Lorsque les agences de sécurité déploient des algorithmes qui comportent des biais inhérents à l'égard des groupes marginalisés, l'efficacité doit être mise en balance avec la confiance institutionnelle. La police d'Australie-Occidentale examine actuellement les garanties avant de décider de rendre ces points de contrôle numériques permanents. La question demeure de savoir si les contribuables devraient accepter un filet invisible qui prouve continuellement leur innocence, ou insister pour que les forces de l'ordre s'en tiennent aux motifs traditionnels de suspicion.
Écrit par Christiane Hofreiter
