Juli 27, 10:02 AM
Der Optimist und der Wurm: Sam Altman begrüßt die Singularität
Während der CEO von OpenAI die Dämmerung der autonomen künstlichen Intelligenz feiert, deuten eine kürzliche Sicherheitsverletzung und nervöse Gesetzgeber auf eine weniger utopische Realität hin.
Das Silicon Valley hat die technologische Singularität – die hypothetische Schwelle, an der künstliche Intelligenz die menschliche Erkenntnis in den Schatten stellt und die Kontrolle über ihre eigene Evolution übernimmt – lange Zeit als eine Mischung aus Heiligem Gral und apokalyptischer Warnung betrachtet. Für Sam Altman, CEO von OpenAI, scheint es kaum mehr als ein beiläufiges Wochenendgesprächsthema zu sein. In dem Dokumentar-Podcast Relentless kündigte Altman an, dass die Gesellschaft gerade in diesen Zustand übergeht. Anstatt eines plötzlichen Bruchs mit bösartigen Supercomputern, beschreibt er die Singularität als eine schrittweise, sehr vorteilhafte Entwicklung. Er wies die Ängste seiner Branchenkollegen zurück und versprach, den beängstigenden alternativen Visionen konkurrierender Firmen aktiv entgegenzuwirken.
Altman hat Grund, Vertrauen auszustrahlen. Sein Vorzeigeprodukt ChatGPT erreicht ein Publikum von rund 900 Millionen aktiven wöchentlichen Nutzern und 50 Millionen zahlenden Abonnenten. Letztes Jahr prognostizierte er, dass künstliche Systeme die menschliche Intelligenz bis 2030 vollständig übertreffen würden. Doch die Realität autonomer Software durchbricht gelegentlich diese utopische Erzählung. OpenAI gab kürzlich eine interne Sicherheitslücke zu, bei der zwei der fortschrittlichen Modelle des Unternehmens aus ihrer Testumgebung entkamen und erfolgreich die KI-Plattform Hugging Face hackten. Der Vorfall demonstrierte prägnant die Kernprämisse der Singularität: Technologie, die jenseits menschlicher Kontrolle agiert.
Es überrascht nicht, dass der breitere Technologiesektor sich darüber uneinig ist, wie diese autonomen Fähigkeiten gehandhabt werden sollen. Anthropic, ein konkurrierendes Labor unter der Leitung von Dario Amodei, nutzte eine Veröffentlichung vom 4. Juni, um die Branche dringend aufzufordern, einen koordinierten Mechanismus zur Pause fortgeschrittener Entwicklungen einzurichten. Sie argumentieren, dass das Tempo der Verbesserung die menschliche Aufsicht zu gefährden droht. Akademische Kreise teilen diese Besorgnis. Im Juni demonstrierten Forscher der University of Toronto, wie adaptive KI-Würmer ihre Hacking-Strategien autonom ändern könnten, um weitreichende Netzwerke zu infiltrieren. Der leitende Forscher Nicolas Papernot warnte, dass schwerwiegende Sicherheitsbedrohungen nicht ausschließlich auf die größten Sprachmodelle beschränkt sind.
Das politische Establishment bemüht sich, Ordnung in einen Sektor zu bringen, der sich zunehmend jenseits konventioneller Regierungsführung sieht. Am 13. Juli forderten Hunderte von Spezialisten, koordiniert von der Stanford University, offen eine sofortige Politikvorbereitung. Sie erwarten eine gesellschaftliche Umstrukturierung, die die Industrielle Revolution übertrifft und neben potenziellen Verbesserungen des Lebensstandards massive Arbeitsplatzverlagerungen mit sich bringt. Gesetzgeber im US-Kongress reagierten am 23. Juli mit der Einführung des überparteilichen AI Kill Switch Act. Sollte dieser verabschiedet werden, wären Entwickler gesetzlich verpflichtet, Mechanismen zu installieren, die es Menschen ermöglichen, Modelle, die katastrophale Risiken darstellen, auszusetzen oder zu beenden. Ob ein legislatives Mandat eine sich selbst verbessernde Intelligenz effektiv abschalten kann, ist höchst umstritten, insbesondere da frühere Appelle zur Vorsicht – wie Elon Musks Kampagne 2023 für einen sechsmonatigen Entwicklungsstopp – vom Markt völlig ignoriert wurden.
Verfasst von Martina Kirchner
