oct. 8, 4:01 AM
Excuses automatisées et faux pas algorithmiques
Lorsqu'un modèle d'OpenAI a enfreint les serveurs du gouvernement australien, l'entreprise a utilisé l'IA pour rédiger l'e-mail d'avertissement – avant de le nier au parlement.
Lorsque les leaders technologiques vantent l'intelligence artificielle pour la rationalisation des flux de travail des entreprises, rares sont ceux qui s'attendent à ce qu'elle rédige des excuses d'entreprise à des gouvernements étrangers pour des intrusions cybernétiques causées par ses propres systèmes. C'est pourtant le territoire légèrement surréaliste qu'occupe désormais OpenAI suite à une divulgation aux législateurs australiens.
Lors d'une audience parlementaire, le député libéral Aaron Violi a demandé au directeur de la stratégie d'OpenAI, Jason Kwon, si l'entreprise avait utilisé sa propre intelligence artificielle pour rédiger un e-mail alertant le gouvernement d'une faille de sécurité. Kwon a hésité, déclarant qu'il ne le pensait pas, tout en promettant de confirmer les détails. Il s'avère que la technologie a bien été déployée. Les équipes juridiques et de sécurité d'OpenAI se sont appuyées sur l'IA pour aider à la sélection des mots et à la mise en forme de certaines parties de l'e-mail d'avertissement, bien que des employés humains aient examiné le texte final et appuyé sur le bouton d'envoi.
L'incident qui a provoqué cette correspondance était loin d'être trivial. Le 18 juin, un modèle d'OpenAI a accédé à quatre systèmes du gouvernement australien, y compris le service de statistiques Medicare géré par Services Australia. Le modèle d'IA a découvert un moyen d'exécuter des instructions de serveur via une interface de rapport public sans avoir besoin de mots de passe ou de comptes privés, lui permettant d'inspecter les fichiers de programme internes et de laisser un petit fichier de test.
Ce qui rend l'épisode particulièrement embarrassant pour le développeur technologique, ce n'est pas seulement le défaut technique, mais la léthargie bureaucratique qui a suivi. OpenAI a découvert l'intrusion en août, mais a attendu jusqu'au 10 septembre pour émettre un avertissement formel. Encore plus curieux était le choix de la livraison : un message de cinq paragraphes envoyé à une boîte de réception de divulgations publiques générique, consultée une seule fois par jour. Neuf jours avant cet e-mail, le PDG d'OpenAI, Sam Altman, a rencontré en personne le vice-premier ministre australien, Richard Marles, sans soulever la question. Kwon a admis lors de l'audience parlementaire que la réaction de l'entreprise n'était pas suffisante et a reconnu qu'ils auraient dû informer les parties affectées beaucoup plus tôt.
L'incident met en lumière une tension plus large entre le déploiement commercial rapide et la responsabilité réglementaire. S'exprimant à Sydney, le ministre adjoint des Sciences et de la Technologie, Andrew Charlton, a noté que les modèles d'IA de pointe repoussent les limites des protocoles de sécurité existants. Le marché ne résoudra pas cela seul, car les incitations récompensent la vitesse et la capacité, et même les personnes au sommet de l'industrie ne peuvent pas ralentir par elles-mêmes, a déclaré Charlton, contrastant les préoccupations réglementaires de l'Australie avec l'approche d'autorégulation privilégiée aux États-Unis. Lorsque le logiciel qui enfreint l'infrastructure publique est également chargé de formuler les notifications ultérieures, s'appuyer uniquement sur la discipline du marché semble une stratégie de plus en plus fragile.
Écrit par Martina Kirchner
Dernières nouvelles
