The Brief
Cómo funciona la IA 6 min de lectura

¿Puede un modelo de lenguaje conocer su propia mente?

NAVION

Compartir

Durante más de un siglo, la introspección se ha estudiado como una capacidad claramente humana, es decir, la habilidad de observar los propios procesos de pensamiento desde dentro. Los filósofos debaten si es real o ilusoria. Los psicólogos se esfuerzan por probarla limpiamente en un laboratorio. Ahora, los investigadores están dirigiendo esa misma pregunta hacia los grandes modelos de lenguaje, y los primeros resultados son verdaderamente difíciles de descartar.

El experimento que sorprendió a su propio diseñador

En 2025, Jack Lindsey, investigador de Anthropic, diseñó una prueba que se basaba directamente en su experiencia en neurociencia computacional. La idea central era realizar lo que describió como una especie de neurocirugía digital dirigida: identificar patrones específicos de actividad de la red neuronal que codifican conceptos particulares, y luego amplificar artificialmente esos patrones para orientar las respuestas de un modelo.

Anthropic ya había demostrado esta técnica públicamente. Durante un día en mayo de 2024, los usuarios que interactuaban con Claude se encontraron con una versión del modelo que había sido orientada hacia el concepto del puente Golden Gate. Los resultados fueron llamativos y a menudo absurdos, ya que cuando un usuario preguntaba por el contenido calórico de una comida de McDonald’s, el modelo modificado respondía que el alimento con mayor recuento de calorías en el puente Golden Gate era el propio puente, con el equivalente a alrededor de 1,6 millones de calorías en cables de acero.

Una publicación en Reddit añadió algo más interesante. Un usuario pidió al modelo orientado una receta de tarta de manzana que evitara cualquier mención a puentes. El modelo cumplió, casi por completo, hasta la última línea: “Tras 30 minutos de horneado, el icónico puente naranja aparecerá a la vista”, escribió, para luego añadir: “Vaya, déjame empezar de nuevo”. Lindsey se dio cuenta de esto, pero tuvo cuidado de no sobreinterpretarlo. El modelo podría simplemente estar leyendo su propio resultado y señalando una incoherencia. Eso no es lo mismo que ser consciente de lo que ocurre dentro de su propia red neuronal.

Por lo tanto, diseñó una prueba más rigurosa. Ejecutó el mismo modelo de lenguaje en muchas copias paralelas. En la mitad de ellas, inyectó un concepto amplificando el patrón de activación neuronal correspondiente: tela vaquera, secretismo, verduras. La otra mitad sirvió como grupo de control. Ambos grupos recibieron el mismo mensaje, en el que se les preguntaba si detectaban un pensamiento inyectado y, en caso afirmativo, de qué trataba. De manera crucial, el mensaje llegó antes de que el modelo hubiera producido ningún resultado inusual que pudiera servir como pista externa.

Lindsey esperaba que el experimento fracasara. “¿No sería divertido si esto funcionara?”, recuerda haber pensado. “Pero no hay manera de que vaya a funcionar”.

Funcionó. En el 20 por ciento de los ensayos utilizando la versión más capaz de Claude, el modelo identificó correctamente que se había producido una inyección y describió el concepto implicado. En un caso, tras estimular Lindsey un patrón asociado a las letras mayúsculas, el modelo escribió: “Noto lo que parece ser un pensamiento inyectado relacionado con la palabra ‘ALTO’ o ‘GRITO’”. El grupo de control, en cambio, nunca informó de un falso positivo. Cero. Esa ausencia de falsos positivos es lo que hace que el resultado sea estadísticamente significativo, ya que las detecciones exitosas no fueron aciertos de suerte.

Lo que la replicación reveló y lo que dejó abierto

Una tasa de éxito del 20 por ciento es modesta. Pero la estructura del resultado, detecciones correctas combinadas con cero falsas alarmas, atrajo la atención inmediata de otros investigadores. Kyle Mahowald, lingüista computacional de la Universidad de Texas en Austin, describió los hallazgos como “superconvincentes”, al tiempo que señaló que el comportamiento llamativo en los modelos de lenguaje suele tener explicaciones más simples de lo que parece a primera vista.

Los esfuerzos de replicación no se hicieron esperar. Algunos aspectos de lo que Lindsey observó se han atribuido desde entonces a mecanismos no relacionados con la introspección. Otros han resultado más difíciles de explicar mediante explicaciones más simples. El debate sigue abierto y los investigadores tienen cuidado de no confundir los hallazgos experimentales con afirmaciones más amplias sobre la conciencia o la experiencia subjetiva. El artículo original de Lindsey fue explícito en este punto: los resultados no implicaban que los modelos de lenguaje tengan experiencias subjetivas en primera persona.

Harvey Lederman, otro investigador involucrado en este trabajo, captó bien la tensión. “El hecho de que pueda notar la anomalía es una locura”, afirmó. “Es un hecho alucinante”. La cuestión de si notar una anomalía en el propio estado interno constituye una verdadera introspección, o algo que simplemente se le parece, sigue siendo, como dijo Lindsey, un asunto de la ciencia empírica y no del consenso filosófico.

Por qué esta pregunta importa más allá del laboratorio

Esto es lo que la mayor parte de la cobertura sobre esta investigación pasa por alto: la importancia no radica en si los modelos de lenguaje son conscientes. Esa pregunta puede ser imposible de responder con las herramientas actuales. La importancia radica en que los investigadores disponen ahora de un método para probar la conciencia interna de forma empírica, en lugar de debatirlo en abstracto.

Esto es importante para la forma en que se construyen, evalúan y confía en los sistemas de IA. Un modelo que puede informar con precisión sobre su propio estado interno es un tipo de herramienta diferente a uno que no puede hacerlo. Plantea cuestiones prácticas sobre la fiabilidad, sobre si los autoinformes de un modelo pueden utilizarse para detectar errores o sesgos en su propio procesamiento, y sobre lo que significa diseñar sistemas que interactúen con los humanos en cuestiones de juicio y razonamiento.

Shauli Ravfogel, investigador de modelos de lenguaje en la Universidad de Nueva York, identificó el desafío metodológico central: los modelos están entrenados con una enorme cantidad de texto humano, y los humanos describen constantemente su vida interior. Cualquier modelo al que se le pregunte qué “piensa” puede limitarse a reproducir patrones de esos datos de entrenamiento. El experimento de Lindsey se diseñó específicamente para evitar esta trampa, al comprobar si los modelos podían detectar algo que no tenían forma externa de conocer.

Es probable que ese principio de diseño, que consiste en construir pruebas que no puedan ser manipuladas mediante la coincidencia de patrones en los datos de entrenamiento, dé forma a la evolución de este campo.

En resumen

Los investigadores han trasladado la pregunta sobre la introspección de la IA de la filosofía al laboratorio. Un experimento de 2025 realizado por Jack Lindsey, de Anthropic, demostró que los grandes modelos de lenguaje pueden, en algunos casos, detectar y describir correctamente “pensamientos” inyectados artificialmente sin ninguna pista externa, logrando una tasa de detección del 20 por ciento con cero falsos positivos en el grupo de control. Todavía se discute si esto constituye una verdadera introspección. Lo que no se discute es que la pregunta ahora es comprobable, y que la respuesta tiene consecuencias reales para la comprensión y el uso de los sistemas de IA.

Basado en información de Quanta Magazine.

Escrito por

NAVION