El conocimiento científico se basa en una suposición sencilla: que se puede confiar en los datos publicados. La revisión por pares existe para proteger esa suposición. Sin embargo, un conjunto cada vez mayor de trabajos sugiere que el sistema ha estado fallando durante mucho tiempo, y las herramientas de IA ahora están haciendo visibles esos fallos de maneras que los revisores humanos jamás habrían podido lograr.
Una base de datos de 75 años y el modelo que atrapó sus errores
La historia comienza con un químico, no con un informático. Sebastian Pios, un químico teórico del Laboratorio de Zhejiang en Hangzhou, China, estaba usando un sistema de IA para predecir puntos de ebullición moleculares —una tarea rutinaria en química— cuando el modelo comenzó a producir valores que contradecían las entradas en una base de datos de referencia que lleva 75 años en uso. Su primer instinto fue desconfiar del modelo. Ese instinto resultó estar equivocado.
Cuando Pios revisó la literatura original, descubrió que la base de datos era la fuente del error, y no la IA. El modelo había detectado eficazmente un error que había permanecido en una referencia confiable durante décadas. Encontró dos casos adicionales en la misma investigación: uno era un error tipográfico en un artículo antiguo, y otro era un valor incorrecto de mediciones de puntos de ebullición de hace un siglo. Ambos errores se habían integrado silenciosamente en el registro científico, donde probablemente habrían causado, según la propia evaluación de Pios, graves problemas a los investigadores que dependían de esos datos.
Esto es lo que la mayoría de la cobertura sobre IA en la ciencia pasa por alto. La conversación suele centrarse en la IA generando nuevos conocimiento, diseñando proteínas, prediciendo estructuras y acelerando el descubrimiento de fármacos. El papel menos glamuroso pero igualmente importante es auditar el conocimiento que ya existe.
La escala es la verdadera ventaja
El trabajo de Pios ilustra el valor cualitativo de la verificación de datos por IA. Un estudio separado aporta el caso cuantitativo. Investigadores como James Zou, informático de la Universidad de Stanford, y Federico Bianchi, científico de aprendizaje automático en Together AI en San Francisco, utilizaron un verificador de IA para analizar los artículos publicados en NeurIPS, una de las conferencias anuales de investigación en IA más prestigiosas. La herramienta se centró en errores objetivos: equivocaciones en fórmulas, cálculos y figuras. Las preguntas subjetivas sobre la interpretación o la novedad se excluyeron deliberadamente.
Los resultados fueron llamativos. Los errores por artículo pasaron de 3,8 en 2021 a 5,9 en 2025, lo que representa un aumento del 55%. No se trata de una desviación marginal. Es una tendencia mensurable en la dirección equivocada, visible únicamente porque una herramienta automatizada pudo escanear la literatura a una escala que ningún equipo humano podría igualar.
El planteamiento de Zou sobre por qué esto importa es preciso: se trata de artículos que forman el conocimiento fundamental para la próxima generación de investigación. Los errores en los cimientos no se quedan contenidos. Se propagan. Los estudios posteriores construidos sobre premisas defectuosas heredan esos defectos, y el problema se agrava silenciosamente con el tiempo.
Un análisis independiente, realizado por investigadores de SAI Labs y publicado en línea en julio, aplicó agentes de IA a 168 artículos seleccionados para presentación oral en la Conferencia Internacional sobre Aprendizaje Automático de 2026. Los agentes extrajeron afirmaciones centrales, descargaron los recursos complementarios, volvieron a ejecutar experimentos cuando fue posible y compararon los resultados con lo que los autores habían reportado. De los 92 artículos con al menos cinco afirmaciones disponibles para su evaluación, los agentes pudieron reproducir más de dos de esas cinco afirmaciones en solo 34 artículos. Apenas ocho artículos lograron que más del 80% de sus afirmaciones fueran reproducidas con éxito.
Esa es una cifra aleccionadora, aunque viene con una advertencia importante: los agentes de IA en sí mismos no son infalibles. Odd Erik Gundersen, informático de la Universidad Noruega de Ciencia y Tecnología en Trondheim, señala que estas herramientas cometen errores de maneras que resultan reconociblemente humanas. La implicación no es que los verificadores de datos de IA deban reemplazar la supervisión humana. Es que necesitan la supervisión humana para ser útiles en absoluto.
Lo que esto significa para el funcionamiento de la ciencia
El problema de fondo aquí es estructural. La revisión por pares fue diseñada para un mundo en el que el volumen de investigación publicada era manejable por lectores humanos. Ese mundo ya no existe. El número de artículos publicados anualmente ha crecido hasta un punto en el que ninguna comunidad de revisores puede seguir el ritmo, y los errores que antes se habrían detectado ahora se están colando a gran escala.
Las herramientas de IA no resuelven este problema por ser más inteligentes que los revisores humanos. Lo resuelven por ser más rápidas e incansables. Pueden escanear bases de datos y literatura a velocidades que hacen que la auditoría sistemática sea factible por primera vez. El juicio humano sobre lo que importa, lo que es novedoso y lo que realmente significa un error para un campo sigue siendo irreemplazable. La decisión de diseño de Bianchi de excluir las evaluaciones subjetivas del estudio de NeurIPS refleja exactamente esta lógica: la IA se encarga del volumen, los humanos se encargan del significado.
Este es un cambio significativo en cómo se valida el conocimiento científico. No es un reemplazo de la revisión por pares, sino una ampliación de la misma, una que opera a una escala para la que el sistema existente nunca fue creado.
En resumen
Las herramientas de IA están detectando errores en bases de datos científicas y artículos publicados que habían pasado desapercibidos durante décadas, y en algunos casos durante un siglo. Un estudio sobre los artículos de NeurIPS encontró un aumento del 55% en los errores objetivos entre 2021 y 2025. La ventaja no es solo la precisión: es la escala. Estas herramientas pueden auditar el registro científico a velocidades que ningún equipo humano puede igualar. No son lo suficientemente confiables como para operar sin supervisión humana, pero combinadas con ella, representan una nueva capa de control de calidad que la comunidad investigadora apenas está empezando a utilizar seriamente.
Basado en información de Nature: Machine Learning.