La paranoïa profitable de la Silicon Valley

Peu d'industries parviennent à combiner la prophétie apocalyptique avec une expansion commerciale agressive comme l'intelligence artificielle. Lorsque Jacob Coxon, un ancien chercheur de 27 ans chez OpenAI et Anthropic, a démissionné pour avertir le public que l'intelligence artificielle pourrait anéantir l'humanité en une décennie, il a rejoint un chœur croissant d'initiés de la technologie prêchant le salut par la régulation. Ses affirmations sont aussi dramatiques que spécifiques : un scénario catastrophique où des essaims de robots conquièrent Internet pourrait se manifester dans six à douze mois, et il estime la probabilité d'une extinction humaine totale dans les dix ans à plus de dix pour cent.

Dans les tours de verre de la Silicon Valley, les ingénieurs sont apparemment si perturbés par leurs propres créations que certains achètent des terres rurales pour survivre à l'effondrement civilisationnel anticipé. Pourtant, ces mêmes employés retournent chaque matin à leur bureau pour accélérer le code même qu'ils craignent. Cette angoisse existentielle semblerait plus persuasive si elle n'était pas accompagnée d'un alignement extraordinaire des intérêts commerciaux.

Dario Amodei, PDG d'Anthropic, a récemment publié un essai exhortant les gouvernements et les entreprises à ralentir le rythme des sorties de modèles pour faire face aux graves risques de sécurité. Commodément, cet appel à une retenue imposée par l'État arrive au moment où Anthropic se prépare à une introduction en bourse potentiellement record. OpenAI, récemment évalué à un montant stupéfiant de 852 milliards de dollars, a de même suspendu ses propres projets d'introduction en bourse, invoquant des considérations de sécurité. Les sceptiques observent à juste titre qu'exiger une surveillance réglementaire stricte fonctionne souvent comme un mécanisme de défense classique, créant un duopole lucratif pour les acteurs établis tout en fermant la porte aux concurrents plus agiles.

Tout le monde dans le secteur ne souscrit pas à la panique messianique. Jensen Huang, PDG de Nvidia, a rejeté les affirmations selon lesquelles l'IA mettrait fin à l'humanité comme un non-sens complet. Pendant ce temps, Clement Delangue, dirigeant de Hugging Face, a suggéré avec pertinence que consulter un ancien chercheur opérationnel sur la fatalité existentielle équivalait à demander à un mécanicien de climatisation son avis sur le changement climatique mondial. Au-delà du débat interne, toute décélération gérée nécessiterait une coordination sans faille avec des rivaux stratégiques comme la Chine – une fantaisie géopolitique dans l'environnement commercial actuel.

Anthropic maintient que ses protocoles de sécurité restent inégalés, un porte-parole officiel déclarant que pour faire face à ces risques, nous continuons à construire des modèles avec certaines des protections les plus robustes de l'industrie. Pourtant, alors que d'anciens politiciens comme Rishi Sunak prêtent leurs noms à des conseils consultatifs, la frontière entre une gestion des risques authentique et un positionnement marketing calculé devient de plus en plus floue. La panique, semble-t-il, fait un marketing exceptionnel.

Écrit par Andreas Hofer andreas.hofer@alpineweekly.com