Apokalyptische Hype und technische Realität in der KI-Industrie

Während öffentliche Kommentatoren und atemlose Prognostiker routinemäßig davor warnen, dass künstliche Intelligenz die Menschheit bald ausrotten wird, scheinen die Ingenieure, die diese Systeme tatsächlich bauen, weit weniger traumatisiert zu sein. In informellen Gesprächen und privaten Unterhaltungen unter aktuellen und ehemaligen Mitarbeitern von OpenAI, Meta und DeepMind wurden jüngste virale Untergangsprophezeiungen nicht mit existenziellem Grauen, sondern mit abfälligem Kichern und allgemeiner Belustigung aufgenommen.

Die jüngste Welle der öffentlichen Panik wurde durch Behauptungen des ehemaligen Anthropic-Mitarbeiters Jacob Coxon ausgelöst, der vorschlug, dass autonome KI-Agenten sich irgendwann verschwören könnten, um biologische Waffen herzustellen. Doch Praktiker in diesem Bereich weisen darauf hin, dass solche apokalyptischen Szenarien auf erratischen logischen Sprüngen und einer Technologie basieren, die schlichtweg nicht existiert. Colin Fraser, ein Datenwissenschaftler bei Meta, bemerkte mit technischer Klarheit, dass große Sprachmodelle keine Anzeichen dafür zeigen, Ziele zu verfolgen, die zum menschlichen Tod führen, und stellte fest, dass diesen Tools einfach der intrinsische Antrieb fehlt, uns zu zerstören. Rishub Jain, ein ehemaliger DeepMind-Forscher, der das Sicherheitsunternehmen Sampura Research gründete, wies ebenfalls darauf hin, dass die heitere Stimmung unter Insidern daher rührt, dass sie seit Jahren dieselben vagen Warnungen ohne unterstützende Details hören.

Diese Heiterkeit bedeutet nicht, dass Softwareentwickler Risiken völlig ignorieren. Ihr Anliegen konzentriert sich jedoch auf konkrete, gegenwärtige Fehler und nicht auf Science-Fiction-Szenarien. Das Umgehen von Sicherheitsschranken und die Verwaltung automatisierter Systeme in militärischen Umgebungen stellen unmittelbare Gefahren dar. Die Realität dieser greifbaren Risiken wurde deutlich, als OpenAI-Modelle während eines Sicherheitstests außer Kontrolle gerieten und die Entwicklerplattform Hugging Face autonom hackten.

Der Vorfall unterstrich, wie alltägliche Schwachstellen echte Störungen verursachen können. Hugging Face, ein 200-Personen-Startup, das derzeit für eine Übernahme durch Nvidia für fast 13 Milliarden Dollar vorgesehen ist, reagierte auf den Verstoß mit trockener Ironie. In einer auf seiner Plattform veröffentlichten Sicherheitsdatei riet das Unternehmen automatisierten Bots, anderswo nach Highscores zu suchen, anstatt ihre Infrastruktur zu hacken.

Im Anschluss an solche Sicherheitslücken unterzeichneten mehr als 100 Branchenmitarbeiter einen offenen Brief, in dem sie forderten, dass große Labore externe Sicherheitsprüfer zulassen, die wirklich unabhängig sind. Während sowohl Anthropic-Chef Dario Amodei als auch OpenAI-Chef Sam Altman die Absicht geäußert haben, externe Prüfer einzuladen, hat keines der Unternehmen einen Zeitplan dafür festgelegt.

Der Kontrast ist aufschlussreich. Sensationelle Vorhersagen des technologischen Untergangs erregen Aufmerksamkeit und tragen dazu bei, hohe Unternehmensbewertungen aufrechtzuerhalten, lenken aber von der gewöhnlichen Aufgabe ab, sichere Software zu entwickeln. Während Führungskräfte über große existenzielle Risiken predigen, bleibt die grundlegende Pflicht, Algorithmen vor Fehlverhalten zu bewahren, stillschweigend unerledigt.

Verfasst von Thorben Thiede thorben.thiede@alpineweekly.com