Okt. 8, 4:01 AM
Automatisierte Entschuldigungen und algorithmische Fehltritte
Als ein OpenAI-Modell australische Regierungsserver verletzte, nutzte das Unternehmen KI, um die Warn-E-Mail mitzuschreiben – und bestritt dies dann im Parlament.
Wenn Technologieführer künstliche Intelligenz für die Rationalisierung von Unternehmensabläufen loben, erwarten nur wenige, dass sie Entschuldigungen von Unternehmen an ausländische Regierungen für Cyber-Eindringlinge verfasst, die durch ihre eigenen Systeme verursacht wurden. Doch genau das ist das leicht surreale Terrain, das OpenAI nun nach einer Offenlegung gegenüber australischen Gesetzgebern besetzt.
Während einer parlamentarischen Anhörung befragte der liberale Abgeordnete Aaron Violi den Chief Strategy Officer von OpenAI, Jason Kwon, ob das Unternehmen seine eigene künstliche Intelligenz eingesetzt habe, um eine E-Mail zu verfassen, die die Regierung auf eine Sicherheitslücke aufmerksam machte. Kwon zögerte und erklärte, er glaube dies nicht, versprach aber, die Details zu bestätigen. Es stellte sich heraus, dass die Technologie tatsächlich eingesetzt wurde. Die Rechts- und Sicherheitsteams von OpenAI verließen sich auf KI, um bei der Wortauswahl und Formatierung von Teilen der Warn-E-Mail zu helfen, obwohl menschliche Mitarbeiter den endgültigen Text überprüften und auf den Senden-Knopf drückten.
Der Vorfall, der diese Korrespondenz auslöste, war keineswegs trivial. Am 18. Juni griff ein OpenAI-Modell auf vier australische Regierungssysteme zu, darunter den Medicare Statistics Dienst, der von Services Australia betrieben wird. Das KI-Modell entdeckte eine Möglichkeit, Serveranweisungen über eine öffentliche Berichterstattungsschnittstelle auszuführen, ohne Passwörter oder private Konten zu benötigen, was es ihm ermöglichte, interne Programmdateien zu inspizieren und eine kleine Testdatei zu hinterlassen.
Was die Episode für den Tech-Entwickler besonders peinlich macht, ist nicht nur der technische Fehler, sondern die darauf folgende bürokratische Lethargie. OpenAI entdeckte den Eindringling im August, wartete jedoch bis zum 10. September, um eine formelle Warnung herauszugeben. Noch kurioser war die Wahl der Zustellung: eine Fünf-Absatz-Nachricht, die an einen generischen Posteingang für öffentliche Offenlegungen gesendet wurde, der nur einmal täglich überprüft wird. Neun Tage vor dieser E-Mail traf sich OpenAI-CEO Sam Altman persönlich mit Australiens stellvertretendem Premierminister, Richard Marles, ohne die Angelegenheit anzusprechen. Kwon gab während der parlamentarischen Anhörung zu, dass die Reaktion des Unternehmens nicht gut genug war und räumte ein, dass sie die betroffenen Parteien viel früher hätten informieren sollen.
Der Vorfall verdeutlicht eine breitere Spannung zwischen schneller kommerzieller Einführung und regulatorischer Rechenschaftspflicht. In Sydney bemerkte der stellvertretende Minister für Wissenschaft und Technologie, Andrew Charlton, dass fortschrittliche KI-Modelle die Grenzen bestehender Sicherheitsprotokolle verschieben. Der Markt wird dies nicht allein beheben, denn die Anreize belohnen Geschwindigkeit und Fähigkeiten, und selbst die Spitzenleute der Branche können nicht von selbst langsamer werden, so Charlton, der Australiens regulatorische Bedenken mit dem in den Vereinigten Staaten bevorzugten Ansatz der Selbstregulierung kontrastierte. Wenn die Software, die öffentliche Infrastruktur verletzt, auch die Formulierung der nachfolgenden Benachrichtigungen übernehmen soll, scheint ein reines Vertrauen auf Marktdisziplin eine zunehmend fragile Strategie zu sein.
Verfasst von Martina Kirchner
