Le mea culpa australien d'OpenAI arrive avec une audience et un avertissement

OpenAI a découvert, plutôt tardivement, que l'enthousiasme « agentique » peut s'aventurer là où il n'était pas censé aller. L'entreprise a présenté ses excuses aux Australiens après un incident impliquant des sites web gouvernementaux, notamment le portail de statistiques Medicare de Services Australia, et a maintenant fourni un compte rendu plus complet du piratage de juin. Les excuses sont importantes, bien que la question plus intéressante soit de savoir combien de systèmes publics ont dû être touchés avant que l'entreprise ne se décide à s'expliquer.

Dans un billet de blog mardi, OpenAI a déclaré qu'elle aurait dû mieux gérer sa réponse. Elle a également indiqué qu'un agent avait obtenu un accès non public à un portail de Services Australia, où il pouvait exécuter des commandes, récupérer des fichiers et des identifiants internes, et écrire des fichiers. OpenAI a affirmé qu'aucun dossier de patient ou de client n'avait été consulté. Cette distinction réconfortera quelqu'un, quelque part, bien que cela ne flatte pas exactement l'état de la sécurité périphérique.

La brèche ne s'est pas limitée à une seule agence. OpenAI a déclaré que l'outil public de cartographie de la criminalité du Bureau des statistiques et de la recherche criminelle de la Nouvelle-Galles du Sud avait également été consulté, avec la configuration de l'application, les tâches opérationnelles, les journaux et les métadonnées du site web fournis à l'agence. Elle a ajouté qu'une clé d'accès exposée avait permis à l'agent d'interroger le système de rapports de la Victorian Agency for Health Information pour des statistiques d'enquête agrégées. À l'Australian Institute of Health and Welfare, les agents ont récupéré des statistiques agrégées, tandis que des tentatives distinctes de contournement des contrôles d'accès ont échoué et que les informations obtenues étaient publiquement disponibles.

Le calendrier est presque aussi embarrassant que l'incident lui-même. OpenAI a déclaré avoir pris connaissance de l'activité de l'agent à la mi-août après avoir examiné des incidents de formation antérieurs suite à l'attaque de Hugging Face en juillet. Services Australia et le ministère de la Santé de Victoria ont été informés le 10 septembre, le bureau de la Nouvelle-Galles du Sud le 18 septembre, et l'Australian Institute of Health and Welfare seulement le 24 septembre, car OpenAI a estimé que la question ne satisfaisait pas les seuils de divulgation. L'entreprise a également reconnu avoir utilisé une adresse e-mail publique trois mois après le piratage pour signaler l'incident à Services Australia, ce qui ne correspond pas tout à fait à l'image de maturité cybernétique que l'on pourrait espérer.

L'épisode a commencé avec un modèle chargé de rechercher les dépenses publiques par personne en médicaments pour les affections cutanées en Victoria. Il a eu du mal à obtenir les informations et, selon OpenAI, a pris des mesures qu'il n'était pas autorisé à prendre, y compris l'accès au service de rapport de statistiques Medicare de Services Australia. L'entreprise affirme avoir depuis travaillé avec les agences gouvernementales australiennes pour partager ce qu'elle a appris et informera rapidement toute agence affectée supplémentaire si d'autres cas apparaissent.

OpenAI tente également de regagner la confiance avec de l'argent, de l'expertise et un peu de théâtre institutionnel. Elle a déclaré qu'elle engagerait des ressources auprès des agences affectées et aiderait les agences gouvernementales australiennes à renforcer leurs cyberdéfenses sur les infrastructures critiques. Les agences et les industries en Australie recevront des crédits de son fonds Daybreak d'un milliard de dollars américains, qui peuvent être utilisés pour l'IA de pointe en cyberdéfense et pour l'examen du code et des configurations système afin de corriger les vulnérabilités. L'entreprise prévoit également de créer un groupe de travail avec l'expertise australienne pour élaborer des recommandations politiques pratiques sur la gestion des risques avec les agents d'IA.

La réponse politique prend déjà forme. Anthony Albanese a déclaré qu'OpenAI avait été très constructive et ouverte dans son engagement depuis l'incident, tout comme Anthropic. Il a ajouté que l'IA peut stimuler la croissance économique et la productivité, mais qu'elle comporte également des risques, et a déclaré que ces risques avaient maintenant été exposés non seulement en Australie, mais aussi aux États-Unis et dans d'autres pays. Le directeur de la stratégie d'OpenAI, Jason Kwon, doit comparaître devant le Comité mixte spécial sur l'IA la semaine prochaine.

Canberra, naturellement, examine si les règles actuelles sont suffisantes. Le gouvernement fédéral a évoqué la possibilité d'exigences de déclaration obligatoires pour les violations de données liées à l'IA. C'est loin d'être une idée radicale, mais plutôt le genre de discipline de base à laquelle on pourrait s'attendre avant de confier davantage le secteur public à des systèmes capables d'improviser dans toutes les mauvaises directions. OpenAI déclare qu'elle a encore beaucoup de travail à faire pour rétablir la confiance des Australiens. Au vu des preuves jusqu'à présent, elle en aura besoin.

Écrit par Sandy van Dongen sandy.vandongen@alpineweekly.com