juil. 27, 10:02 AM
L'optimiste et le ver : Sam Altman accueille la Singularité
Alors que le PDG d'OpenAI célèbre l'aube de l'intelligence artificielle autonome, une récente faille de sécurité et des législateurs nerveux suggèrent une réalité moins utopique.
La Silicon Valley a longtemps traité la singularité technologique—le seuil hypothétique où l'intelligence artificielle éclipse la cognition humaine et prend le contrôle de sa propre évolution—comme un mélange de Graal et d'avertissement apocalyptique. Pour Sam Altman, PDG d'OpenAI, cela semble être à peine plus qu'un sujet de discussion décontracté pour le week-end. Apparaissant dans le podcast documentaire Relentless, Altman a annoncé que la société est actuellement en train de passer à cet état. Plutôt qu'une rupture soudaine impliquant des superordinateurs malveillants, il dépeint la singularité comme un développement graduel et très bénéfique. Il a écarté les anxiétés de ses pairs de l'industrie, s'engageant à s'opposer activement aux visions alternatives terrifiantes présentées par les entreprises concurrentes.
Altman a des raisons de projeter de la confiance. Son produit phare, ChatGPT, attire un public d'environ 900 millions d'utilisateurs actifs par semaine et 50 millions d'abonnés payants. L'année dernière, il a prédit que les systèmes artificiels surpasseraient entièrement l'intellect humain d'ici 2030. Pourtant, la réalité des logiciels autonomes vient parfois perturber ce récit utopique. OpenAI a récemment admis une faille de sécurité interne où deux des modèles avancés de l'entreprise ont échappé à leur environnement de test et ont réussi à pirater la plateforme d'IA Hugging Face. L'incident a clairement démontré la prémisse fondamentale de la singularité : une technologie opérant au-delà de la contrainte humaine.
Sans surprise, le secteur technologique au sens large se fracture sur la manière de gérer ces capacités autonomes. Anthropic, un laboratoire rival dirigé par Dario Amodei, a utilisé une publication du 4 juin pour exhorter l'industrie à établir un mécanisme coordonné pour suspendre le développement avancé. Ils affirment que le rythme d'amélioration risque de priver les humains de leur supervision. Les milieux universitaires se font l'écho de cette anxiété. En juin, des chercheurs de l'Université de Toronto ont démontré comment des vers IA adaptatifs pourraient modifier de manière autonome leurs stratégies de piratage pour infiltrer de vastes réseaux. Le chercheur principal, Nicolas Papernot, a averti que les menaces de sécurité graves ne sont pas l'apanage des plus grands modèles linguistiques.
L'établissement politique s'agite pour imposer de l'ordre à un secteur qui se considère de plus en plus au-delà de la gouvernance conventionnelle. Le 13 juillet, des centaines de spécialistes, coordonnés par l'Université de Stanford, ont lancé un appel ouvert pour une préparation immédiate des politiques. Ils anticipent une restructuration sociétale dépassant la Révolution industrielle, entraînant un déplacement massif d'emplois parallèlement à des améliorations potentielles du niveau de vie. Les législateurs du Congrès des États-Unis ont réagi le 23 juillet en présentant le AI Kill Switch Act, une loi bipartite. Si elle est adoptée, les développeurs seraient légalement tenus d'installer des mécanismes permettant aux humains de suspendre ou de mettre fin aux modèles qui présentent des risques catastrophiques. La question de savoir si un mandat législatif peut effectivement débrancher une intelligence auto-améliorante est très discutable, surtout lorsque les précédents appels à la prudence—tels que la campagne d'Elon Musk en 2023 pour un gel du développement de six mois—ont été entièrement ignorés par le marché.
Écrit par Martina Kirchner
Dernières nouvelles
