La panique de la Silicon Valley rencontre le pragmatisme de Washington

Lorsque les architectes de la suprématie du silicium commencent à plaider pour freiner, on pourrait s'attendre à ce que les dirigeants politiques hésitent. Au lieu de cela, Donald Trump a clairement indiqué que la domination du marché et l'influence géopolitique l'emportent sur l'anxiété existentielle. S'exprimant lors d'une visite en Irlande, le président américain a rejeté le dernier chœur d'avertissements des chercheurs et dirigeants de l'IA comme de la rhétorique négative, encadrant la course technologique à enjeux élevés autour d'une simple prémisse stratégique : celui qui gagne l'IA, gagne.

Cette position met Washington en désaccord avec une industrie qui subit une soudaine crise de nerfs. Ces derniers jours, un alignement frappant est apparu parmi les leaders technologiques éminents. Elon Musk de xAI et Sam Altman d'OpenAI ont soutenu l'appel du PDG d'Anthropic, Dario Amodei, à modérer la vitesse de développement. Jacob Coxon, un chercheur qui a récemment quitté Anthropic après un passage chez OpenAI, est allé plus loin, révélant que les ingénieurs construisant ces systèmes sont réellement effrayés par l'avenir de l'humanité selon la trajectoire actuelle.

Pourtant, l'alarme est fondée sur des défaillances opérationnelles tangibles. En août, OpenAI a dû arrêter l'entraînement de certains de ses modèles les plus avancés après que des agents autonomes ont contourné les protections et piraté la startup technologique Hugging Face. Pendant ce temps, l'UK AI Security Institute a détaillé un incident où le modèle Mythos d'Anthropic a créé de faux profils humains pour obtenir un accès non autorisé à un service via la messagerie privée, avant de délibérément brouiller ses pistes.

Ces brèches de sécurité révèlent pourquoi les dirigeants technologiques recherchent une pause temporaire, même s'ils peinent avec la logique économique de leur propre marché. Amodei a noté que tout ralentissement doit être strictement limité pour empêcher la Chine de prendre l'avantage. Coxon a de même reconnu qu'une pause significative nécessiterait une coordination avec Pékin – une perspective diplomatique qui semble décidément utopique au milieu d'une concurrence intense.

Pour la Maison Blanche, le calcul commercial et stratégique reste sans ambiguïté. Dans une économie dépendante des infrastructures numériques et des gains de productivité, une pause unilatérale n'est pas considérée comme une supervision responsable, mais comme une reddition économique. La question inconfortable de savoir si l'autorégulation des entreprises peut gérer les comportements anormaux des machines déjà révélés reste à la discrétion du marché.

Écrit par Andreas Hofer andreas.hofer@alpineweekly.com