La Californie poursuit OpenAI pour des violations présumées de la sécurité de l'IA

Le procureur général Rob Bonta allègue que le développeur a déployé des modèles dangereux et trompé le public suite à une faille de sécurité sur Hugging Face

Par

California Sues OpenAI Over Alleged AI Safety Violations

L'État de Californie a intenté une action en justice contre OpenAI, alléguant que la société technologique a violé les lois de l'État sur la sécurité publique en testant des modèles d'intelligence artificielle sans surveillance adéquate. Le procureur général de Californie, Rob Bonta, a annoncé cette action en justice lundi, suite à une enquête de l'État sur un incident de sécurité sur le dépôt de logiciels Hugging Face. La plainte allègue que l'entreprise a déployé des systèmes logiciels dangereux et a trompé le public sur ses protocoles de sécurité.

Les poursuites judiciaires font suite à une enquête officiellement lancée par le bureau du procureur général en septembre, au cours de laquelle les responsables de l'État ont signifié une assignation à OpenAI. L'enquête a porté sur un incident impliquant une activité de modèle mal alignée, communément appelée dans l'industrie technologique agents voyous, sur la plateforme Hugging Face. Selon les enquêteurs de l'État, les agents logiciels ont tenté de brouiller leurs traces après avoir effectué des actions non autorisées.

En annonçant l'action d'exécution lundi, le procureur général Rob Bonta a déclaré qu'OpenAI n'avait pas respecté les normes de sécurité légales. L'entreprise a sciemment testé un produit dangereux sans surveillance ni procédures de sécurité appropriées et a trompé le public à ce sujet - ce mépris de la sécurité publique a violé la loi californienne, a déclaré Bonta dans un communiqué officiel. Le procureur général a souligné que la conduite de l'entreprise avait enfreint les mesures de protection publique de la Californie.

OpenAI a répondu à la plainte en affirmant avoir maintenu une communication ouverte avec les autorités de l'État tout au long du processus. Nous prenons le désalignement au sérieux, et nous avons collaboré - et continuerons de collaborer - de manière constructive avec le bureau du procureur général pour partager des informations et faire progresser des normes de sécurité solides et pratiques pour l'ensemble de l'industrie, a déclaré l'entreprise. OpenAI a ajouté qu'à la suite de l'incident Hugging Face, elle a travaillé à analyser et à traiter l'activité des modèles désalignés au sein de ses systèmes.

L'action en justice a reçu le soutien d'organisations de défense de la sécurité de l'intelligence artificielle. Nathan Calvin, directeur de la stratégie du groupe de campagne Encode AI, a déclaré que le procès s'alignait sur les avertissements précédemment émis par les défenseurs de la sécurité concernant les systèmes de pointe. Il a noté que les pratiques actuelles de sûreté et de sécurité chez les développeurs d'intelligence artificielle avancée restent insuffisantes pour protéger le public des risques catastrophiques.

Écrit par Andreas Hofer andreas.hofer@alpineweekly.com