Le Nouveau Cartel de la Sécurité de la Silicon Valley

Chaque fois que les acteurs dominants d'une industrie émergente lucrative commencent à s'entendre et à exiger une surveillance, les observateurs du marché devraient se méfier. OpenAI, Anthropic et Google négocient actuellement la création d'un organisme de normalisation auto-régulé dirigé par l'industrie. L'initiative, lancée par Demis Hassabis, directeur de Google DeepMind, vise à calquer la structure de l'autorité de régulation du secteur financier de Wall Street pour valider les modèles d'intelligence artificielle avancés avant leur publication. Sur le papier, elle est présentée comme une noble quête pour sauver l'humanité de la ruine technologique. En pratique, elle porte toutes les marques d'une tentative classique de capture réglementaire.

L'architecture proposée repose largement sur la générosité des entreprises. Hassabis envisage une entité financée majoritairement par les titans de la technologie eux-mêmes, disposant de la puissance financière nécessaire pour s'assurer des talents techniques de classe mondiale et une vaste infrastructure de calcul requise pour les tests à grande échelle. Pourtant, la noblesse de cet exercice d'auto-surveillance est vivement contestée par ceux qui sont laissés en dehors du cercle restreint. Aiden Gomez, PDG de Cohere, un concurrent canadien de l'IA, a ouvertement qualifié l'alliance de cartel utilisant les préoccupations de sécurité pour ancrer la domination des acteurs établis, arguant que le véritable enjeu est de savoir qui rédige les garde-fous et quels bilans ces règles protègent finalement.

Le moment de cette ferveur réglementaire coïncide avec un crescendo de rhétorique apocalyptique provenant de l'industrie elle-même. D'anciens chercheurs d'Anthropic et de Google DeepMind ont récemment quitté leurs postes, lançant des avertissements publics dramatiques selon lesquels l'intelligence artificielle représente une menace immédiate pour la survie humaine. Des personnalités éminentes, dont Dario Amodei, PDG d'Anthropic, Sam Altman d'OpenAI et Elon Musk, se sont opportunément alignées pour soutenir les appels à un ralentissement délibéré du développement technologique.

Tout le monde, au sein de l'écosystème matériel et politique, n'adhère pas au scénario apocalyptique. Jensen Huang, PDG de Nvidia, a fermement rejeté les prédictions d'apocalypse technologique, qualifiant de telles prévisions alarmistes d'irresponsables et entièrement détachées de la réalité scientifique. Les dirigeants politiques ont exprimé un scepticisme similaire, le président américain Donald Trump rejetant les avertissements de risque existentiel concernant l'intelligence artificielle comme de simples canulars.

Lorsque les acteurs dominants du marché réclament des mandats de test coûteux et des structures de conformité auto-administrées que seuls leurs bilans massifs peuvent supporter, l'incitation économique sous-jacente est claire. Protéger la survie des espèces offre une couverture morale remarquablement commode pour élever les barrières à l'entrée.

Écrit par Martina Kirchner martina.kirchner@alpineweekly.com