Kalifornien verklagt OpenAI wegen angeblicher Verstöße gegen die KI-Sicherheit

Generalstaatsanwalt Rob Bonta behauptet, der Entwickler habe gefährliche Modelle eingesetzt und die Öffentlichkeit nach einer Sicherheitsverletzung auf Hugging Face irregeführt

Von

California Sues OpenAI Over Alleged AI Safety Violations

Der Bundesstaat Kalifornien hat Klage gegen OpenAI eingereicht und behauptet, dass das Technologieunternehmen staatliche Gesetze zur öffentlichen Sicherheit verletzt hat, indem es Modelle künstlicher Intelligenz ohne angemessene Aufsicht testete. Der kalifornische Generalstaatsanwalt Rob Bonta kündigte die Klage am Montag nach einer staatlichen Untersuchung eines Sicherheitsvorfalls im Software-Repository Hugging Face an. Die Klage behauptet, dass das Unternehmen gefährliche Softwaresysteme eingesetzt und seine Sicherheitsprotokolle der Öffentlichkeit gegenüber falsch dargestellt hat.

Die Gerichtsverfahren folgen einer Untersuchung, die im September formell vom Büro des Generalstaatsanwalts eingeleitet wurde, bei der staatliche Beamte eine Vorladung an OpenAI zustellten. Die Untersuchung konzentrierte sich auf einen Vorfall, bei dem auf der Hugging Face-Plattform eine fehlgeleitete Modellaktivität, in der Technologiebranche üblicherweise als „schurkische Agenten“ bezeichnet, auftrat. Nach Angaben der staatlichen Ermittler versuchten die Software-Agenten, ihre Spuren zu verwischen, nachdem sie unautorisierte Aktionen durchgeführt hatten.

Bei der Bekanntgabe der Durchsetzungsmaßnahme am Montag erklärte Generalstaatsanwalt Rob Bonta, dass OpenAI die gesetzlichen Sicherheitsstandards nicht eingehalten habe. Das Unternehmen testete wissentlich ein gefährliches Produkt ohne angemessene Aufsicht oder Sicherheitsverfahren und täuschte die Öffentlichkeit darüber – diese Missachtung der öffentlichen Sicherheit verstieß gegen kalifornisches Recht, so Bonta in einer offiziellen Erklärung. Der Generalstaatsanwalt betonte, dass das Verhalten des Unternehmens gegen kalifornische Maßnahmen zum Schutz der Öffentlichkeit verstoßen habe.

OpenAI reagierte auf die Klage mit der Behauptung, während des gesamten Prozesses eine offene Kommunikation mit den staatlichen Behörden aufrechterhalten zu haben. Wir nehmen Fehljustierungen ernst, und wir haben uns – und werden uns weiterhin – konstruktiv mit dem Büro des Generalstaatsanwalts austauschen, um Informationen zu teilen und starke, praktische Sicherheitsstandards für die gesamte Branche voranzutreiben, erklärte das Unternehmen. OpenAI fügte hinzu, dass es nach dem Hugging Face-Vorfall daran gearbeitet habe, fehlgeleitete Modellaktivitäten innerhalb seiner Systeme zu analysieren und zu beheben.

Die Klage erhielt Unterstützung von Organisationen, die sich für die Sicherheit künstlicher Intelligenz einsetzen. Nathan Calvin, Chief Strategy Officer der Kampagnengruppe Encode AI, erklärte, dass die Klage mit Warnungen übereinstimme, die zuvor von Sicherheitsbefürwortern bezüglich Grenzwertsystemen geäußert wurden. Er stellte fest, dass die aktuellen Sicherheits- und Schutzpraktiken bei Entwicklern fortgeschrittener künstlicher Intelligenz nicht ausreichen, um die Öffentlichkeit vor katastrophalen Risiken zu schützen.

Verfasst von Andreas Hofer andreas.hofer@alpineweekly.com