Un nuevo informe independiente ha sacado a la luz pruebas de que los sistemas de IA ya están acelerando de manera significativa su propio desarrollo, no como un futuro escenario teórico, sino como algo que ya se puede medir dentro de uno de los principales laboratorios de IA del mundo. Las conclusiones provienen de METR, una organización de investigación en seguridad de la IA que pasó once semanas investigando los procesos de investigación y desarrollo de Anthropic. Lo que muestra el informe, y lo que deliberadamente no puede mostrar, es igualmente importante.
Dos años de progreso en uno: el hallazgo de la aceleración
El titular principal de la investigación de METR es llamativo. Los modelos de Anthropic están mejorando aproximadamente el doble de rápido que hace un año. Los investigadores de METR describieron esto como haber logrado “aproximadamente dos años de progreso histórico durante el último año”, basándose en las puntuaciones de las pruebas comparativas.
Lo que hace que este hallazgo sea significativo es la explicación detrás de él. Históricamente, el progreso de la IA se ha impulsado en gran medida por el escalado, es decir, destinando más potencia de cálculo al entrenamiento. Los investigadores de METR afirmaron que están seguros de que ese no es el factor principal en este caso. A partir de octubre, la mayor parte de la aceleración se atribuye a la propia IA, y esa contribución ha ido creciendo con el tiempo.
La prueba de esto proviene en parte de encuestas internas. Los empleados de Anthropic informaron por sí mismos que son unas 12 veces más productivos al utilizar el modelo interno más capaz de la compañía en comparación con trabajar sin asistencia de IA. Esa cifra fue aproximadamente el doble de lo que el personal había informado pocos meses antes, cuando utilizaba un modelo interno anterior llamado Mythos 5. Estas son cifras autoinformadas que conllevan limitaciones inherentes, pero la dirección y la magnitud del cambio son notables.
Por ahora, la evaluación de METR es que la mayor parte de esta aceleración proviene de la IA ayudando a investigadores humanos en lugar de la IA operando de forma independiente. Los investigadores no encontraron señales claras de rendimientos decrecientes ni cuellos de botella obvios. También advirtieron que “hay algunos señales de que las contribuciones totalmente autónomas desempeñarán un papel más importante pronto”.
El problema de las redacciones: lo que el público no puede ver
Anthropic dio a METR acceso a investigaciones confidenciales, datos de rendimiento de modelos y entrevistas a empleados. METR reconoció que esto superaba lo acordado inicialmente. Esa transparencia, sin embargo, tiene un asterisco importante.
Anthropic se reservó el derecho de redactar partes del informe final antes de su publicación, y ejerció ese derecho extensamente. METR presentó un informe de aproximadamente 100 páginas. En una publicación en X, METR afirmó que Anthropic redactó “la mayoría de las pruebas que encontramos más informativas”. Los investigadores señalaron que gran parte del material redactado podría tener “múltiples interpretaciones plausibles”, lo que significa que el público no puede evaluar las pruebas ni las incertidumbres que las rodean. Como señala el informe, el público se ve obligado a confiar en el criterio de METR “mucho más de lo que sería ideal, dado el peso de las preguntas respondidas aquí”.
El cofundador de Anthropic, Sam McCandlish, reconoció las redacciones en una publicación pública, enmarcándolas como un equilibrio deliberado. Su razonamiento declarado fue que publicar los impulsores específicos de la aceleración sería comercialmente sensible y podría entregar a la competencia una hoja de ruta para avanzar más rápido, lo que, según argumentó, empeoraría los riesgos en lugar de mitigarlos. Anthropic ha dicho que planea publicar su propio informe sobre el progreso de la IA en las próximas semanas.
El problema de las redacciones importa más allá de este informe específico. Las evaluaciones independientes conllevan peso reputacional para las empresas que las encargan o permiten. Cuando esas evaluaciones son redactadas sustancialmente por el sujeto de la investigación, la independencia del hallazgo se vuelve más difícil de evaluar. La propia METR señaló esta tensión directamente.
Lo que la automejora recursiva significa en realidad para todos
Esto es lo que la mayor parte de la cobertura del informe minimiza. El concepto en el centro de los hallazgos de METR es la automejora recursiva, la idea de que los sistemas de IA podrían desarrollar de manera autónoma sistemas sucesores cada vez más capaces, sin una intervención humana significativa, comprimiendo potencialmente décadas de cambio tecnológico en años o incluso meses.
Hasta hace poco, esto era en gran medida una preocupación teórica. El informe de METR proporciona pruebas concretas, aunque parciales, de que las primeras etapas de esta dinámica ya están en marcha dentro de al menos un gran laboratorio de IA. Anthropic no está sola, ya que OpenAI declaró en septiembre que está “logrando un fuerte progreso” hacia la construcción de un investigador de IA capaz de avanzar en la investigación de aprendizaje profundo y alineación para marzo de 2028.
La implicación más amplia tiene que ver con el ritmo del cambio en relación con el ritmo del trabajo de seguridad. Si los sistemas de IA están acelerando su propio desarrollo más rápido de lo que los investigadores pueden evaluar los riesgos, la brecha entre la capacidad y la comprensión se amplia. METR no encontró cuellos de botella observables que frenaran esto de forma natural.
También hay una tensión estructural que vale la pena nombrar. Anthropic ha sido uno de los defensores más vocales del desarrollo de la IA responsable, y su director ejecutivo, Dario Amodei, ha pedido públicamente a los laboratorios que levanten el pie del acelerador. El informe de METR describe una empresa que, al mismo tiempo, está utilizando la IA para avanzar más rápido que nunca. Eso no es necesariamente hipocresía, ya que puede reflejar una creencia genuina de que estar en la frontera es más seguro que cederla. Pero es una tensión que el público merece comprender con claridad.
En resumen
La IA ya está acelerando su propio desarrollo de formas mensurables, no solo en teoría. La investigación de once semanas de METR dentro de Anthropic descubrió que los modelos de la empresa están mejorando aproximadamente al doble de velocidad que hace un año, y la propia IA se identifica como el principal impulsor. Las pruebas completas detrás de ese hallazgo han sido sustancialmente redactadas. Lo que permanece visible es suficiente para plantear serias dudas sobre si los marcos de seguridad del campo están siguiendo el ritmo de la tecnología que se supone deben regir.
Basado en información de The Verge.