Die profitable Paranoia des Silicon Valley

Wenige Branchen schaffen es, apokalyptische Untergangsstimmung mit aggressiver kommerzieller Expansion so zu verbinden wie die Künstliche Intelligenz. Als Jacob Coxon, ein 27-jähriger ehemaliger Forscher bei OpenAI und Anthropic, zurücktrat, um die Öffentlichkeit davor zu warnen, dass Künstliche Intelligenz die Menschheit innerhalb eines Jahrzehnts auslöschen könnte, schloss er sich einem wachsenden Chor von Tech-Insidern an, die die Rettung durch Regulierung predigen. Seine Behauptungen sind ebenso dramatisch wie spezifisch: Ein katastrophales Szenario, in dem Bot-Schwärme das Internet erobern, könnte sich innerhalb von sechs bis zwölf Monaten manifestieren, und er schätzt die Wahrscheinlichkeit einer vollständigen menschlichen Auslöschung innerhalb von zehn Jahren auf über zehn Prozent.

In den Glastürmen des Silicon Valley sind Ingenieure offenbar so beunruhigt von ihren eigenen Kreationen, dass einige ländliches Land aufkaufen, um den erwarteten zivilisatorischen Zusammenbruch zu überleben. Doch dieselben Mitarbeiter kehren jeden Morgen an ihre Schreibtische zurück, um genau den Code zu beschleunigen, den sie fürchten. Diese existenzielle Angst würde überzeugender klingen, wenn sie nicht von einer außergewöhnlichen Ausrichtung kommerzieller Interessen begleitet wäre.

Dario Amodei, CEO von Anthropic, veröffentlichte kürzlich einen Essay, in dem er Regierungen und Unternehmen aufforderte, das Tempo der Modellveröffentlichungen zu verlangsamen, um ernsthafte Sicherheitsrisiken anzugehen. Praktischerweise kommt dieser Appell für staatlich verordnete Zurückhaltung genau zu dem Zeitpunkt, da Anthropic eine potenziell rekordverdächtige Börsengang vorbereitet. OpenAI, kürzlich mit unglaublichen 852 Milliarden Dollar bewertet, hat seine eigenen Börsenpläne ebenfalls pausiert, unter Berufung auf Sicherheitsbedenken. Skeptiker bemerken zu Recht, dass die Forderung nach strenger Regulierungsaufsicht oft als klassischer Verteidigungsmechanismus fungiert, der ein lukratives Duopol für etablierte Akteure schafft, während er die Tür für schlankere Wettbewerber schließt.

Nicht jeder in der Branche glaubt an die messianische Panik. Jensen Huang, CEO von Nvidia, wies Behauptungen, KI werde die Menschheit beenden, als völligen Unsinn zurück. Clement Delangue, Leiter von Hugging Face, schlug derweil spitzzüngig vor, dass die Befragung eines ehemaligen Linienforschers zum existenziellen Untergang vergleichbar sei mit der Befragung eines Klimaanlagenmechanikers zum globalen Klimawandel. Jenseits der innerstaatlichen Debatte würde jede gesteuerte Verlangsamung eine nahtlose Koordination mit strategischen Rivalen wie China erfordern – eine geopolitische Fantasie im aktuellen Handelsumfeld.

Anthropic behauptet, dass seine Sicherheitsprotokolle unübertroffen bleiben, wobei ein offizieller Sprecher erklärte: Um diese Risiken anzugehen, entwickeln wir weiterhin Modelle mit einigen der stärksten Schutzmaßnahmen in der Branche. Doch während ehemalige politische Persönlichkeiten wie Rishi Sunak ihre Namen für Beiräte hergeben, verschwimmt die Grenze zwischen echtem Risikomanagement und kalkulierter Marktpositionierung zunehmend. Panik, so scheint es, sorgt für außergewöhnliches Marketing.

Verfasst von Andreas Hofer andreas.hofer@alpineweekly.com