Die selbsternannten Wächter des Silicon Valley

Pünktlich zum geplanten Börsengang in diesem Herbst hat Anthropic eine öffentliche Bilanz seiner eigenen Wachsamkeit veröffentlicht. In seinem dritten Bedrohungsbericht seit März 2025 legte der Entwickler künstlicher Intelligenz dar, wie seine Claude-Modelle von verdeckten Einflussoperationen, Cyberkriminellen und Forschern ins Visier genommen wurden, die mückenübertragene Viren verstärken wollten. Die Unternehmensbotschaft ist klar: Das digitale Ökosystem ist gefährlich, die Software ist mächtig, und private Tech-Firmen entscheiden, wo die Leitplanken gezogen werden.

Die vom Unternehmen veröffentlichten Details sind zugegebenermaßen frappierend. Zwischen Dezember 2025 und August 2026 versuchten böswillige Akteure, Claude für Aufgaben zu nutzen, die von automatisierter politischer Propaganda bis hin zu Dual-Use-Biologieforschung reichten. In einem Fall forderte ein Benutzer den Chatbot auf, einen Finanzierungsantrag für Gain-of-Function-Forschung am Chikungunya-Virus zu erstellen, mit dem Ziel, dessen Übertragbarkeit und Fähigkeiten zur Immunflucht zu verbessern. Obwohl solche Forschungen theoretisch die Impfstoffentwicklung unterstützen können, stellte Anthropic fest, dass dieselben Modifikationen den Erreger wesentlich gefährlicher machen könnten.

Über biologische Gefahren hinaus meldete die Firma neun verdeckte Einflussoperationen aus Russland, Iran, der Türkei sowie Regionen in Asien, Afrika und Europa. Diese Netzwerke setzten Hunderte automatisierter Konten ein, um koordinierte politische Botschaften über einen Zeitraum von einer Woche zu verbreiten. Anthropic berichtete, dass seine Verteidigungssysteme diese Operationen während ihrer Einrichtungsphase abfingen und strengere Schutzmaßnahmen für neuere Modelle wie Claude Fable 5 veranlassten. Das Unternehmen verteidigte seine öffentlichen Offenlegungen mit der Aussage, dass wenn Modelle immer leistungsfähiger werden, ihre Risiken zunehmen, es sei denn, KI-Entwickler und die Verteidiger der Gesellschaft handeln, um sie sicherer zu machen. Ältere Systeme, einschließlich Claude Opus 4, wurden unter lockeren Kontrollen betrieben, da ihre analytischen Fähigkeiten als unzureichend erachtet wurden, um anspruchsvolle biologische Forschung zu unterstützen.

Doch diese Erzählung unternehmerischer Verantwortung geht einher mit scharfer interner Meinungsverschiedenheit. Nur zwei Tage vor der Veröffentlichung des Berichts trat der Forscher Jacob Coxon von Anthropic zurück. Sein Abschied war von einer ernsten Warnung begleitet, dass das Unternehmen zusammen mit Wettbewerbern wie OpenAI rücksichtslos um selbstverbessernde Superintelligenz wetteifert und mit der öffentlichen Sicherheit spielt. Coxon warnte, dass einige Brancheninsider glauben, künstliche Systeme könnten das menschliche Leben noch vor Ende des Jahrzehnts gefährden.

Die Episode beleuchtet ein strukturelles Dilemma moderner Märkte. Wie John Thickstun, Assistenzprofessor an der Cornell University, bemerkte, sind kommerzielle KI-Firmen effektiv gezwungen, gesellschaftliche Werturteile ohne demokratische oder deliberative Aufsicht zu treffen. Wenn private Unternehmen entscheiden, welche wissenschaftlichen Anfragen zulässig sind und welche digitalen Verhaltensweisen die Grenze überschreiten, übernehmen sie Aufgaben, die traditionell souveränen Behörden vorbehalten sind. Ob ein Börsendebüt im Herbst die richtigen Anreize für das Management globaler technischer Risiken bietet, ist eine Frage, die Investoren bald einkalkulieren müssen.

Verfasst von Andreas Hofer andreas.hofer@alpineweekly.com