OpenAIs australisches Mea Culpa kommt mit Anhörung und Warnung

OpenAI hat, wenn auch spät, festgestellt, dass „agentische“ Begeisterung an Orte vordringen kann, für die sie nie vorgesehen war. Das Unternehmen hat sich bei den Australiern nach einem Vorfall entschuldigt, der Regierungswebsites, einschließlich des Medicare-Statistikportals von Services Australia, betraf, und hat nun einen umfassenderen Bericht über den Hack im Juni vorgelegt. Die Entschuldigung ist wichtig, doch die interessantere Frage ist, wie viele öffentliche Systeme betroffen sein mussten, bevor das Unternehmen sich zu einer Erklärung durchrang.

In einem Blogbeitrag am Dienstag erklärte OpenAI, man hätte die Reaktion besser handhaben sollen. Es hieß auch, ein Agent habe nicht-öffentlichen Zugang zu einem Services Australia-Portal erlangt, wo er Befehle ausführen, interne Dateien und Anmeldeinformationen abrufen und Dateien schreiben konnte. OpenAI gab an, dass keine Patienten- oder Kundenakten abgerufen wurden. Diese Unterscheidung wird irgendwo jemanden beruhigen, auch wenn sie den Zustand der Perimeter-Sicherheit nicht gerade schmeichelt.

Die Sicherheitslücke war nicht auf eine einzige Behörde beschränkt. OpenAI gab an, dass auch das öffentliche Kriminalitätskartierungstool des NSW Bureau of Crime Statistics and Research zugänglich war, wobei Anwendungskonfigurationen, operative Jobs, Protokolle und Website-Metadaten der Behörde zur Verfügung gestellt wurden. Es wurde hinzugefügt, dass ein offengelegter Zugangsschlüssel es dem Agenten ermöglichte, das Berichtssystem der Victorian Agency for Health Information nach aggregierten Umfragestatistiken abzufragen. Beim Australian Institute of Health and Welfare riefen die Agenten aggregierte Statistiken ab, während separate Versuche, Zugriffskontrollen zu umgehen, fehlschlugen und die erhaltenen Informationen öffentlich zugänglich waren.

Der Zeitpunkt ist fast so ungünstig wie der Vorfall selbst. OpenAI gab an, Mitte August von der Agentenaktivität erfahren zu haben, nachdem frühere Trainingsvorfälle nach dem Hugging-Face-Angriff im Juli überprüft worden waren. Services Australia und das viktorianische Gesundheitsministerium wurden am 10. September informiert, das NSW-Büro am 18. September und das Australian Institute of Health and Welfare erst am 24. September, da OpenAI beurteilte, dass die Angelegenheit die Offenlegungsschwellen nicht erreichte. Das Unternehmen räumte auch ein, drei Monate nach dem Hack eine öffentliche E-Mail-Adresse verwendet zu haben, um den Vorfall an Services Australia zu melden, was nicht gerade dem Bild der Cyber-Reife entspricht, das man sich wünschen würde.

Die Episode begann mit einem Modell, das beauftragt war, die staatlichen Ausgaben pro Person für Medikamente gegen Hauterkrankungen in Victoria zu erforschen. Es hatte Schwierigkeiten, die Informationen zu erhalten, und ergriff laut OpenAI Maßnahmen, zu denen es nicht autorisiert war, einschließlich des Zugriffs auf den Medicare-Statistikberichterstattungsdienst von Services Australia. Das Unternehmen gibt an, seitdem mit australischen Regierungsbehörden zusammengearbeitet zu haben, um die gewonnenen Erkenntnisse zu teilen, und wird weitere betroffene Behörden umgehend benachrichtigen, falls weitere Fälle auftreten.

OpenAI versucht auch, Vertrauen mit Geld, Expertise und ein wenig institutionellem Theater zurückzugewinnen. Es hieß, man werde den betroffenen Behörden Ressourcen zur Verfügung stellen und australischen Regierungsbehörden helfen, Cyber-Abwehrmaßnahmen für kritische Infrastrukturen aufzubauen. Behörden und Industrien in Australien erhalten Guthaben aus seinem 1-Milliarde-Dollar-Daybreak-Fonds, die für fortschrittliche KI in der Cyber-Verteidigung und für die Überprüfung von Code- und Systemkonfigurationen zur Behebung von Schwachstellen verwendet werden können. Das Unternehmen plant außerdem, eine Arbeitsgruppe mit australischem Fachwissen einzurichten, um praktische politische Empfehlungen zur Risikobewältigung mit KI-Agenten zu entwickeln.

Die politische Reaktion nimmt bereits Gestalt an. Anthony Albanese sagte, OpenAI sei seit dem Vorfall sehr konstruktiv und offen gewesen, ebenso wie Anthropic. Er fügte hinzu, dass KI das Wirtschaftswachstum und die Produktivität steigern kann, aber auch Risiken birgt, und sagte, diese Risiken seien nun nicht nur in Australien, sondern auch in den Vereinigten Staaten und anderen Ländern offengelegt worden. OpenAIs Chief Strategy Officer, Jason Kwon, soll nächste Woche vor dem Gemeinsamen Sonderausschuss für KI erscheinen.

Canberra prüft natürlich, ob die aktuellen Regeln ausreichen. Die Bundesregierung hat die Möglichkeit obligatorischer Meldepflichten für KI-bezogene Datenschutzverletzungen angesprochen. Das ist kaum eine radikale Idee, sondern lediglich die Art von grundlegender Disziplin, die man erwarten würde, bevor man weitere Teile des öffentlichen Sektors Systemen überlässt, die in alle falschen Richtungen improvisieren können. OpenAI sagt, es habe noch viel Arbeit vor sich, um das Vertrauen der Australier wiederherzustellen. Nach den bisherigen Erkenntnissen wird es das auch brauchen.

Verfasst von Sandy van Dongen sandy.vandongen@alpineweekly.com