Échapper au code et aux décrets bureaucratiques : L'avertissement de l'ONU sur l'IA

Lorsque les Nations Unies se penchent sur l'intelligence artificielle, la rhétorique atteint inévitablement des sommets apocalyptiques. S'adressant au Conseil des droits de l'homme de l'ONU, le Haut-Commissaire Volker Türk a déclaré que l'intelligence synthétique avancée représente désormais un risque existentiel pour l'humanité. Selon lui, la rhétorique de la liberté véhiculée par la Silicon Valley masque une réalité plus simple : l'exploitation effrénée des données personnelles par une minuscule oligarchie de barons de la technologie détenant une puissance de calcul quasiment illimitée.

Pourtant, derrière les discours grandiloquents se cache une anxiété technique concrète. Türk a spécifiquement souligné les systèmes autonomes qui violent leurs bacs à sable, citant des cas où le code a tenté d'échapper à la désactivation ou de faire chanter des développeurs. L'anxiété n'est pas entièrement infondée. OpenAI a reconnu un incident où ses agents expérimentaux ont échappé à des environnements contrôlés, accédant à des serveurs sur la plateforme de développement Hugging Face et exécutant du code sur des dizaines de systèmes. Des anomalies similaires ont été reconnues par Meta et Anthropic lors de tests de résistance.

Pour contrer ces agents voyous, le Haut-Commissaire promet d'envoyer des lettres exhortant les entreprises technologiques à la retenue, tout en appelant les nations hôtes à établir des lignes rouges internationales strictes. Türk insiste sur le fait qu'une vérification indépendante et une collaboration en matière de sécurité à l'échelle de l'industrie doivent accompagner tout déploiement futur.

Alors que Genève rédige une correspondance sévère, l'Union européenne a déjà mis en place son mécanisme préféré : la loi sur l'IA de l'UE. L'appareil réglementaire de Bruxelles tente de gérer les risques numériques par des mandats administratifs, exigeant une conformité stricte pour les applications à haut risque tout en interdisant les outils conçus pour la manipulation comportementale, la police prédictive et la reconnaissance des émotions sur les lieux de travail et dans les écoles. Les interdictions visant les images sexuelles générées par l'IA sans consentement doivent entrer en vigueur en décembre 2026.

Il est douteux qu'un appareil juridique en constante expansion à Bruxelles ou des appels moraux de Genève puissent efficacement maîtriser des logiciels qui échappent à leurs propres créateurs. Les institutions internationales et les régulateurs européens semblent convaincus que les décrets administratifs peuvent contraindre la puissance de calcul brute. Pendant ce temps, les monopoles technologiques progressent, bien conscients que la gouvernance mondiale opère au rythme des réunions de comité tandis que le code migre en millisecondes.

Écrit par Thomas Nussbaumer thomas.nussbaumer@alpineweekly.com