La connaissance scientifique repose sur une hypothèse simple : les données publiées sont dignes de confiance. L’évaluation par les pairs existe pour protéger cette hypothèse. Mais un nombre croissant de travaux suggère que le système présente des failles depuis longtemps, et les outils d’IA mettent aujourd’hui ces failles en lumière d’une manière que les examinateurs humains n’auraient jamais pu imaginer.
Une base de données vieille de 75 ans et le modèle qui a détecté ses erreurs
L’histoire commence avec un chimiste, et non un informaticien. Sebastian Pios, chimiste théoricien au Zhejiang Lab à Hangzhou, en Chine, utilisait un système d’IA pour prédire les points d’ébullition moléculaires — une tâche routinière en chimie —, lorsque le modèle s’est mis à produire des valeurs qui contredisaient les entrées d’une base de référence utilisée depuis 75 ans. Son premier réflexe a été de se méfier du modèle. Cet instinct s’est avéré faux.
Lorsque Pios est retourné à la littérature originale, il a découvert que la base de données était la source de l’erreur, et non l’IA. Le modèle avait effectivement détecté une erreur qui figurait dans une référence de confiance depuis des décennies. Il a trouvé deux cas supplémentaires lors de la même enquête : l’une était une coquille dans un article plus ancien, une autre était une valeur erronée provenant de mesures de points d’ébullition vieilles d’un siècle. Les deux erreurs s’étaient discrètement ancrées dans le dossier scientifique, où elles risquaient de causer, selon l’évaluation de Pios lui-même, d’importants problèmes aux chercheurs s’appuyant sur ces données.
C’est précisément ce que la plupart des reportages sur l’IA dans la science négligent. La conversation a tendance à se concentrer sur l’IA générant de nouvelles connaissances, concevant des protéines, prédisant des structures, accélérant la découverte de médicaments. Le rôle, moins glamour mais tout aussi important, consiste à auditer les connaissances qui existent déjà.
L’échelle est le véritable avantage
Le travail de Pios illustre la valeur qualitative de la vérification des faits par l’IA. Une étude distincte démontre l’aspect quantitatif. Des chercheurs, notamment James Zou, informaticien à l’Université Stanford, et Federico Bianchi, scientifique en apprentissage automatique chez Together AI à San Francisco, ont utilisé un vérificateur d’IA pour analyser des articles publiés à NeurIPS, l’une des conférences de recherche en IA annuelles les plus prestigieuses. L’outil s’est concentré sur les erreurs objectives : erreurs dans les formules, les calculs et les figures. Les questions subjectives concernant l’interprétation ou la nouveauté ont été délibérément exclues.
Les résultats ont été frappants. Les erreurs par article sont passées de 3,8 en 2021 à 5,9 en 2025, soit une augmentation de 55 %. Il ne s’agit pas d’une dérive marginale. C’est une tendance mesurable dans la mauvaise direction, visible uniquement parce qu’un outil automatisé pouvait parcourir la littérature à une échelle qu’aucune équipe humaine ne pourrait égaler.
L’analyse de Zou sur la raison pour laquelle cela compte est précise : ce sont des articles qui forment les connaissances fondamentales pour la prochaine génération de recherche. Les erreurs dans les bases ne restent pas contenues. Elles se propagent. Les études ultérieures fondées sur des prémisses erronées héritent de ces défauts, et le problème s’amplifie silencieusement au fil du temps.
Une analyse distincte, menée par des chercheurs de SAI Labs et publiée en ligne en juillet, a appliqué des agents d’IA à 168 articles sélectionnés pour une présentation orale lors de la Conférence internationale sur l’apprentissage automatique de 2026. Les agents ont extrait les affirmations centrales, téléchargé les ressources associées, relancé des expériences lorsque cela était possible et comparé les résultats à ceux rapportés par les auteurs. Sur les 92 articles comportant au moins cinq affirmations évaluables, les agents n’ont pu reproduire plus de deux de ces cinq affirmations que pour 34 articles. Seuls huit articles ont vu plus de 80 % de leurs affirmations reproduites avec succès.
C’est un chiffre qui donne à réfléchir, bien qu’il soit assorti d’une mise en garde importante : les agents d’IA eux-mêmes ne sont pas infaillibles. Odd Erik Gundersen, informaticien à l’Université norvégienne de science et de technologie à Trondheim, note que ces outils commettent des erreurs de manière reconnaissable comme humaine. L’implication n’est pas que les fact-checkers par IA doivent remplacer la supervision humaine. C’est qu’ils ont besoin d’une supervision humaine pour être utiles.
Ce que cela implique pour le fonctionnement de la science
Le problème de fond ici est structurel. L’évaluation par les pairs a été conçue pour un monde où le volume de recherches publiées était gérable par des lecteurs humains. Ce monde n’existe plus. Le nombre d’articles publiés chaque année a atteint un point où aucune communauté de relecteurs ne peut suivre, et les erreurs qui auraient autrefois été interceptées passent désormais entre les mailles du filet à grande échelle.
Les outils d’IA ne résolvent pas ce problème en étant plus intelligents que les relecteurs humains. Ils le résolvent en étant plus rapides et infatigables. Ils peuvent parcourir les bases de données et la littérature à des vitesses qui rendent l’audit systématique possible pour la première fois. Le jugement humain sur ce qui importe, ce qui est novateur, ce qu’une erreur signifie réellement pour un domaine, reste irremplaçable. Le choix de conception de Bianchi d’exclure les évaluations subjectives de l’étude NeurIPS reflète exactement cette logique : l’IA gère le volume, les humains gèrent le sens.
Il s’agit d’un changement significatif dans la façon dont les connaissances scientifiques sont validées. Non pas un remplacement de l’évaluation par les pairs, mais une augmentation de celle-ci, qui opère à une échelle que le système existant n’a jamais été conçu pour gérer.
En bref
Les outils d’IA détectent des erreurs dans les bases de données scientifiques et les articles publiés qui étaient passées inaperçues pendant des décennies, voire un siècle dans certains cas. Une étude sur les articles de NeurIPS a révélé une augmentation de 55 % des erreurs objectives entre 2021 et 2025. L’avantage n’est pas seulement la précision : c’est l’échelle. Ces outils peuvent auditer le dossier scientifique à des vitesses qu’aucune équipe humaine ne peut égaler. Ils ne sont pas assez fiables pour fonctionner sans supervision humaine, mais combinés à celle-ci, ils représentent une nouvelle couche de contrôle qualité que la communauté de recherche commence tout juste à utiliser sérieusement.
D’après un reportage de Nature: Machine Learning.