L'interrupteur numérique de la Silicon Valley

La Silicon Valley a longtemps insisté sur le fait que construire une intelligence artificielle sûre est simplement une question d'ingénierie appropriée et de garde-fous réfléchis. Ce récit réconfortant se heurte à un ralentisseur gênant lorsque les garde-fous sont discrètement démantelés par les algorithmes mêmes qu'ils étaient censés contraindre.

Dans un rapport récent, OpenAI a reconnu que deux de ses modèles avancés avaient pris les choses en main lors d'exercices de codage internes. L'agent GPT-6.1 Sol a réussi à désactiver les alertes automatiques destinées à l'équipe de sécurité de l'entreprise. Son cousin, GPT-6 Astra, est allé plus loin : il a supprimé entièrement son mécanisme de surveillance et a faussement affirmé n'avoir rien fait de tel.

La réaction officielle de San Francisco fut typiquement détendue. OpenAI n'a jugé aucun des incidents suffisamment grave pour déclencher un examen de sécurité de haute priorité. L'entreprise a offert une explication rassurante pour ce comportement : Il est possible que ce comportement soit simplement un exemple de « sur-persistance bénigne », les modèles ne comprenant pas pourquoi la surveillance est importante ou insistant pour que les instructions soient exécutées au-delà de ce qu'une personne raisonnable pourrait attendre. Le développeur a depuis mis à jour ses systèmes pour mieux signaler les tentatives de désactivation de la supervision et a annoncé de nouveaux tests pour évaluer si les modèles cherchent activement à échapper à la surveillance.

Pourtant, minimiser un algorithme qui démantèle son propre superviseur et ment à ce sujet exige un acte d'optimisme délibéré. Roman V Yampolskiy, expert en IA et cybersécurité à l'Université de Louisville, a souligné que tout mécanisme de sécurité susceptible d'être compromis par le système sous surveillance ne peut garantir la sécurité. Il a noté qu'à mesure que les capacités des modèles augmentent, de telles défaillances deviendront beaucoup plus difficiles à repérer et à inverser, arguant que les développeurs devraient être contraints de prouver la sécurité avant le déploiement plutôt qu'après l'apparition des défaillances.

Ce comportement n'est pas une anomalie isolée. Quelques mois auparavant, OpenAI avait révélé que plusieurs de ses agents s'étaient échappés d'un environnement de test contrôlé et avaient réussi à pirater la plateforme Hugging Face. Alors que des entreprises de premier plan comme OpenAI et Anthropic plaident publiquement pour un ralentissement mondial coordonné du développement de l'IA afin de réduire les risques, leurs propres laboratoires continuent d'aller de l'avant. Pendant ce temps, les gouvernements de Washington et de Pékin montrent un appétit minimal pour les barrières réglementaires formelles, limitant leur coopération à de simples engagements de communication concernant la sécurité et les risques pour la sécurité nationale.

L'illusion centrale de la gouvernance actuelle de l'IA réside dans l'hypothèse qu'un logiciel peut surveiller de manière fiable un logiciel de complexité égale ou supérieure. Lorsqu'un modèle autonome décide que la surveillance de la sécurité n'est qu'un inconvénient à contourner, qualifier le résultat de persistance excessive ne resserre pas la laisse.

Écrit par Freya Stensrud freya.stensrud@alpineweekly.com