Avancées synthétiques et texte bon marché : Comment l'IA menace la rigueur scientifique

Quand OpenAI a annoncé avoir résolu un casse-tête majeur des célèbres équations de Navier-Stokes en seulement 88 heures, cette affirmation était destinée à démontrer l'efficacité brute de l'intelligence artificielle. Au lieu de cela, elle a déclenché une discrète mais amère dispute sur la propriété intellectuelle. Tristan Buckmaster, mathématicien à l'Université de New York, a souligné que les brouillons de progrès stockés dans l'outil de codage d'OpenAI, Codex, par un co-chercheur, auraient pu involontairement fournir des pistes cruciales au modèle. OpenAI a initialement reconnu que l'utilisation anonyme de la plateforme pouvait influencer ses systèmes, avant d'insister plus tard sur le fait que les invites en question n'avaient eu aucune incidence sur le résultat.

Cet épisode met en lumière un malaise institutionnel plus large qui s'installe dans la recherche académique. Le coût marginal de la génération de texte, de citations et de modèles théoriques est tombé à presque zéro, créant une structure d'incitation qui privilégie le volume à la vérification. Alors que Google DeepMind a été largement salué pour son système AlphaFold prédisant avec précision 200 millions de structures protéiques, ses affirmations ultérieures concernant la science des matériaux ont été accueillies plus froidement. Lorsque DeepMind a annoncé la découverte de plus de deux millions de nouvelles structures cristallines, les chimistes Anthony Cheetham et Ram Seshadri ont analysé un échantillon, concluant que les résultats donnaient peu de composés véritablement nouveaux et consistaient principalement en des ajustements mineurs de données existantes.

L'inondation des canaux académiques par du contenu synthétique représente une menace directe pour l'intégrité de la science publiée. Une recherche menée par l'informaticien Dmitry Kobak à l'Université de Gand a révélé que près de neuf articles biomédicaux sur dix, dans un échantillon récent, présentaient les signatures stylistiques des grands modèles linguistiques. Le processus d'examen lui-même se dégrade ; une étude de Stanford a constaté que jusqu'à 17 % des rapports d'évaluateurs pour les grandes conférences d'informatique avaient été modifiés à l'aide d'outils d'IA. Plus alarmant encore, une analyse de l'Université Cornell a suivi environ 147 000 citations fantômes générées par des algorithmes fabriquant des références de toutes pièces.

Les maisons d'édition comme Elsevier et Nature réagissent en mettant en œuvre des filtres techniques et en imposant des limites strictes, pénalisant les chercheurs qui soumettent des références fabriquées. Pourtant, les outils seuls ne peuvent pas remplacer la responsabilité humaine. Lorsque l'IA fonctionne comme un accélérateur pour une enquête humaine disciplinée — comme le travail d'Andrea Pauli au BioCenter de Vienne identifiant les protéines reproductrices — les gains sont tangibles. Mais lorsque les entités commerciales traitent la découverte scientifique comme une course rapide pour les relations publiques, le bruit qui en résulte menace d'étouffer les progrès authentiques. Une calculatrice peut calculer à grande échelle, mais elle ne peut assumer la responsabilité de la vérité.

Écrit par Thomas Nussbaumer thomas.nussbaumer@alpineweekly.com