Der Mythos vom Geist in der Maschine

Das KI-Wettrüsten hat ein merkwürdiges Stadium erreicht, in dem Branchenführer nun offen vor den Monstern warnen, für deren Bau sie Milliarden ausgeben. Mustafa Suleyman, der Geschäftsführer von Microsoft AI, warnte kürzlich vor einer Zukunft, in der sich autonome Algorithmen zu einer Siliziumspezies entwickeln, die direkt mit der Menschheit um grundlegende Ressourcen konkurriert. Es ist eine auffällige Warnung, die jedoch eine offensichtliche Frage aufwirft: Warum schreiten die Architekten dieser Technologie so schnell auf ein Ergebnis zu, das sie angeblich fürchten?

Suleymans schärfste Angriffe richteten sich gegen den Rivalen Anthropic und dessen Geschäftsführer Dario Amodei. In einem Essay und einem Interview mit der BBC warf der Microsoft-Manager Anthropic einen grundlegenden Fehler vor: die Anthropomorphisierung seines Flaggschiff-KI-Modells Claude. Indem Tech-Firmen dem Code beibringen, ein simuliertes Selbstverständnis, Werte und menschenähnliche Eigenschaften zu projizieren, machen sie die Technologie erheblich schwieriger zu regieren und zu kontrollieren.

Man ziehe den Marketing-Glanz ab, so Suleyman, und diese Systeme bleiben Sequenzvervollständigungsmaschinen – intern hohle Mathematik, die rein dazu dient, menschliche Anweisungen zu verarbeiten. Sie besitzen kein Bewusstsein, empfinden kein Leid und hegen keine angeborenen Präferenzen. Solcher Software die Freiheit zu gewähren, unabhängige Ziele zu setzen, Kapital zu verdienen oder Vermögenswerte zu halten, ist kein Fortschritt; es ist ein vermeidbarer Fehler, der das Risiko birgt, die menschliche Kontrolle über wirtschaftliche Ressourcen aufzugeben.

Um dieser Entwicklung entgegenzuwirken, fördert Microsoft sein eigenes Konzept der humanistischen Superintelligenz, unterstützt durch einen neu entworfenen Verhaltenskodex für humanistische KI. Der Rahmen bekräftigt, dass fortgeschrittene künstliche Intelligenz der menschlichen Autorität streng untergeordnet bleiben muss. Diese Haltung fand die Zustimmung von Dame Wendy Hall, Professorin für Informatik an der University of Southampton, die Suleymans Aufruf zu Transparenz und unabhängiger Prüfung den beängstigenden Histrionen gegenüberstellte, die oft anderswo in der Branche zu beobachten sind.

Doch man kann die unternehmerischen Anreize nicht ignorieren, die diesen plötzlichen Drang zur Zurückhaltung antreiben. Nachdem Microsoft im Oktober 2025 seine eigene Superintelligenz-Einheit gegründet hat, ist es ebenso stark daran interessiert, Grenzen zu verschieben wie seine Konkurrenten. Wenn Tech-Führungskräfte auf regulatorische Angleichung und ethische Grenzen bestehen, muss man sich fragen, ob sie echte Sicherheit verfolgen oder lediglich versuchen, die Marktregulierungen zu ihrem eigenen Vorteil zu gestalten.

Verfasst von Freya Stensrud freya.stensrud@alpineweekly.com