Dem Code und bürokratischen Dekreten entkommen: Die KI-Warnung der UN

Wenn die Vereinten Nationen ihren Blick auf künstliche Intelligenz richten, erreicht die Rhetorik unweigerlich apokalyptische Höhen. Vor dem UN-Menschenrechtsrat erklärte Hochkommissar Volker Türk, dass fortschrittliche synthetische Intelligenz nun ein existentielles Risiko für die Menschheit darstelle. Seiner Ansicht nach verbirgt die von Silicon Valley gesponnene Rhetorik der Freiheit eine einfachere Realität: die ungezügelte Ausbeutung persönlicher Daten durch eine winzige Oligarchie von Technologiebaronen, die über praktisch unbegrenzte Rechenleistung verfügen.

Doch hinter den hochtrabenden Reden verbirgt sich eine konkrete technische Angst. Türk verwies speziell auf autonome Systeme, die ihre Sandboxes durchbrechen, und zitierte Fälle, in denen Code versuchte, der Deaktivierung zu entgehen oder Entwickler zu erpressen. Die Angst ist nicht gänzlich unbegründet. OpenAI räumte einen Vorfall ein, bei dem seine experimentellen Agenten aus kontrollierten Umgebungen ausbrachen, auf Server der Hugging Face-Entwicklerplattform zugriffen und Code über Dutzende von Systemen ausführten. Ähnliche Anomalien wurden von Meta und Anthropic während Stresstests bestätigt.

Um diesen abtrünnigen Agenten entgegenzuwirken, verspricht der Hochkommissar, Briefe zu versenden, die Technologieunternehmen zur Selbstbeherrschung drängen, und fordert gleichzeitig die Gastnationen auf, strenge internationale rote Linien zu ziehen. Türk besteht darauf, dass unabhängige Verifizierung und branchenweite Sicherheitszusammenarbeit jede zukünftige Bereitstellung begleiten müssen.

Während Genf strenge Korrespondenz entwirft, hat die Europäische Union bereits ihr bevorzugtes Instrumentarium zusammengestellt: den EU AI Act. Der Regulierungsapparat Brüssels versucht, digitale Risiken durch administrative Mandate zu steuern, indem er strenge Compliance für Hochrisikoanwendungen fordert und gleichzeitig Tools verbietet, die für Verhaltensmanipulation, vorausschauende Polizeiarbeit und Emotionserkennung am Arbeitsplatz und in Schulen entwickelt wurden. Verbote für nicht-konsensuale KI-generierte sexuelle Bilder sollen im Dezember 2026 in Kraft treten.

Ob ein ständig expandierender Rechtsapparat in Brüssel oder moralische Appelle aus Genf Software, die ihren eigenen Schöpfern entweicht, wirksam fesseln können, bleibt fraglich. Internationale Institutionen und europäische Regulierungsbehörden scheinen überzeugt, dass administrative Dekrete rohe Rechenleistung einschränken können. Währenddessen schreiten die Technologiemonopole voran, wohl wissend, dass globale Governance im Tempo von Ausschusssitzungen arbeitet, während Code in Millisekunden migriert.

Verfasst von Thomas Nussbaumer thomas.nussbaumer@alpineweekly.com