Okt. 28, 6:00 PM
Synthetische Durchbrüche und billiger Text: Wie KI die wissenschaftliche Genauigkeit bedroht
Der Ansturm auf den Einsatz von Sprachmodellen in der akademischen Forschung führt zu einer Flut von überzogenen Behauptungen und erfundenen Referenzen.
Als OpenAI bekannt gab, ein zentrales Rätsel der berühmten Navier-Stokes-Gleichungen in nur 88 Stunden gelöst zu haben, sollte dies die rohe Effizienz der künstlichen Intelligenz demonstrieren. Stattdessen löste es einen stillen, aber erbitterten Streit über geistiges Eigentum aus. Tristan Buckmaster, Mathematiker an der New York University, wies darauf hin, dass Entwürfe von Fortschritten, die von einem Co-Forscher in OpenAIs Codierungswerkzeug Codex gespeichert wurden, dem Modell unwissentlich entscheidende Hinweise geliefert haben könnten. OpenAI räumte zunächst ein, dass die anonymisierte Plattformnutzung seine Systeme beeinflussen könnte, bestand aber später darauf, dass die fraglichen Prompts keinen Einfluss auf das Ergebnis hatten.
Die Episode verdeutlicht ein breiteres institutionelles Unbehagen, das sich über die akademische Forschung legt. Die Grenzkosten für die Generierung von Texten, Zitaten und theoretischen Modellen sind auf nahezu Null gesunken, wodurch eine Anreizstruktur entsteht, die Volumen über Verifizierung bevorzugt. Während Google DeepMind für sein AlphaFold-System, das 200 Millionen Proteinstrukturen genau vorhersagte, weitreichendes Lob erhielt, stießen seine späteren Behauptungen bezüglich der Materialwissenschaft auf kühlere Resonanz. Als DeepMind die Entdeckung von über zwei Millionen neuen Kristallstrukturen ankündigte, analysierten die Chemiker Anthony Cheetham und Ram Seshadri eine Probe und kamen zu dem Schluss, dass die Ergebnisse nur wenige wirklich neuartige Verbindungen lieferten und hauptsächlich aus kleineren Anpassungen bestehender Daten bestanden.
Die Überflutung akademischer Kanäle mit synthetischen Inhalten stellt eine direkte Bedrohung für die Integrität veröffentlichter Wissenschaft dar. Eine Untersuchung des Informatikers Dmitry Kobak an der Universität Gent ergab, dass fast neun von zehn biomedizinischen Artikeln in einer kürzlich untersuchten Stichprobe die stilistischen Merkmale großer Sprachmodelle aufwiesen. Der Überprüfungsprozess selbst verfällt; eine Stanford-Studie fand heraus, dass bis zu 17 Prozent der Gutachten für große Informatikkonferenzen mit KI-Tools verändert wurden. Noch alarmierender ist eine Analyse der Cornell University, die etwa 147.000 Phantom-Zitate verfolgte, die von Algorithmen aus dem Nichts fabriziert wurden.
Verlage wie Elsevier und Nature reagieren, indem sie technische Filter implementieren und strenge Grenzen durchsetzen, indem sie Forscher bestrafen, die gefälschte Referenzen einreichen. Doch Werkzeuge allein können die menschliche Rechenschaftspflicht nicht ersetzen. Wo KI als Beschleuniger für disziplinierte menschliche Forschung fungiert – wie bei Andrea Paulis Arbeit am Vienna BioCenter zur Identifizierung reproduktiver Proteine – sind die Vorteile spürbar. Aber wenn kommerzielle Einheiten wissenschaftliche Entdeckungen als PR-Schnelllauf behandeln, droht das daraus resultierende Rauschen, authentischen Fortschritt zu übertönen. Ein Rechner kann in großem Maßstab rechnen, aber er kann keine Verantwortung für die Wahrheit tragen.
Verfasst von Thomas Nussbaumer thomas.nussbaumer@alpineweekly.com
