The Brief
Cómo funciona la IA 5 min de lectura

Misma salida, diferente proceso: La brecha de pensamiento de la IA

NAVION

Compartir

Los sistemas de IA modernos pueden escribir poesía, resolver problemas complejos y mantener conversaciones que parecen notablemente humanas. Sin embargo, los investigadores y científicos cognitivos que estudian tanto la inteligencia artificial como la mente humana siguen volviendo a la misma observación incómoda: producir un resultado similar al humano no es lo mismo que pensar de una manera similar a la humana. Esta distinción importa más de lo que la mayoría de la cobertura sobre la IA suele reconocer.

Por qué predecir palabras no es lo mismo que entender el mundo

Los modelos de lenguaje grandes como ChatGPT, Claude, Google Gemini y Perplexity AI se basan en un mecanismo engañosamente simple: aprenden a predecir la siguiente palabra o fragmento de texto. Entrenados con enormes cantidades de datos, estos sistemas se vuelven extraordinariamente capaces de generar continuaciones plausibles para cualquier oración dada.

Considera un aviso como “Una mano golpea una taza cerca del borde de una mesa. La taza…”. Un modelo de lenguaje bien entrenado completará esto con algo como “se vuelca por el borde y cae al suelo”. La respuesta es correcta. Pero el modelo llega a ella reconociendo patrones en los datos, no por tener ningún modelo interno de gravedad, superficies o las consecuencias físicas del movimiento. Nunca ha manipulado una taza. Nunca ha sentido cómo se desliza una.

Esto es lo que la mayoría de la cobertura sobre la capacidad de la IA suele pasar por alto. La salida parece comprensión. El proceso detrás de ella es algo bastante diferente.

Modelos del mundo: cerrando la brecha, no salvándola

Una familia más nueva de enfoques de la IA, llamados en términos generales “modelos del mundo”, intenta ir más allá. En lugar de predecir texto, estos sistemas aprenden a anticipar cómo evolucionan las situaciones y cómo las acciones las cambian. Pueden aprender de videos, simulaciones o grabaciones de lo que los robots ven y hacen en entornos físicos.

Para un robot doméstico, un modelo del mundo podría significar aprender que sujetar una taza con demasiada fuerza podría romperla, o que un movimiento incorrecto podría volcarla. Al incorporar acciones, movimiento e información sensorial, estos sistemas empiezan a conectar las predicciones con las consecuencias físicas de una manera que los modelos de lenguaje puro no hacen.

La comparación con la cognición humana es instructiva aquí. Los humanos confían en algo que los científicos cognitivos describen a través de un marco llamado procesamiento predictivo: el cerebro genera expectativas, las compara con la información entrante y se ajusta cuando las dos no coinciden. Extiende la mano hacia una taza que crees que está llena cuando en realidad está vacía, y tu mano se eleva con demasiada fuerza. La discrepancia es retroalimentación inmediata. Corrige el movimiento y actualiza la estimación interna del peso de la taza.

Los modelos del mundo pueden replicar algo estructuralmente similar. Pueden aprender de la retroalimentación sensorial y ajustar las predicciones en consecuencia. A medida que esta investigación se desarrolle, el parecido con la cognición humana puede volverse cada vez más difícil de ignorar. Pero llegar a la misma predicción no revela qué conocimiento la respalda o cómo se formó ese conocimiento.

Lo que una taza realmente significa para una mente humana

Aquí es donde la brecha más profunda se vuelve visible. Para una persona, una taza no es simplemente un objeto cilíndrico sobre una mesa. Es manipulable, frágil, potencialmente demasiado caliente para sostenerla, posiblemente tuya o de otra persona, tal vez a punto de caerse. La comprensión humana conecta las propiedades físicas de un objeto con una red densa de posibles acciones, significados sociales y consecuencias anticipadas.

Este tipo de comprensión se desarrolla temprano. Los estudios sugieren que los bebés de apenas unos meses de vida ya tienen expectativas básicas sobre cómo se comportan los objetos físicos. El psicólogo del desarrollo Jean Piaget propuso que los niños construyen el conocimiento actuando sobre el mundo, volviéndose gradualmente capaces de anticipar mentalmente las consecuencias sin tener que llevar a cabo cada acción físicamente.

El aprendizaje humano, en otras palabras, no es solo la acumulación de información sobre los objetos. Es la integración de la experiencia física, la retroalimentación sensorial, el contexto emocional y el significado social en un modelo coherente de la realidad. Predecir que una taza se caerá captura solo una pequeña parte de esa comprensión.

Los sistemas de IA, incluso aquellos que usan modelos del mundo, aprenden de las acciones y la retroalimentación sensorial además de videos y simulaciones. Pueden interactuar con el mundo de manera estructurada. La pregunta abierta es cómo esas contribuyen al tipo de conocimiento que construyen y si ese conocimiento se parece a la comprensión humana en algo más que en sus salidas.

Por qué la distinción entre rendimiento y proceso importa

Este no es un debate filosófico abstracto. A medida que los sistemas de IA se vuelven mejores replicando los resultados de la cognición humana, la brecha entre lo que producen y cómo lo producen se vuelve más difícil de ver y más fácil de ignorar.

Esa brecha tiene consecuencias prácticas. Un sistema que predice resultados plausibles sin entender por qué ocurren puede rendir bien en situaciones familiares y fallar en las inesperadas. Un sistema que parece entender la causalidad física puede estar haciendo coincidencia de patrones a un nivel lo suficientemente sofisticado como para engañar a los observadores, incluidas las personas que lo implementan en entornos de alto riesgo.

Los investigadores detrás de este análisis lo dicen claramente: distinguir el rendimiento del proceso solo se volverá más importante a medida que crezcan las capacidades de la IA. Ese es un marco útil para cualquiera que piense en dónde confiar en los sistemas de IA, dónde aumentar el juicio humano con ellos y dónde el conocimiento humano sigue siendo genuinamente insustituible.

En resumen

Los sistemas de IA, incluidos los modelos de lenguaje más avanzados y los modelos del mundo emergentes, pueden producir salidas que se parecen mucho al razonamiento humano. Sin embargo, no perciben, aprenden ni entienden el mundo de la manera en que lo hacen los humanos. El mecanismo detrás de resultados similares es fundamentalmente diferente. A medida que estos sistemas se vuelven más capaces, la capacidad de notar la diferencia entre un sistema que simula la comprensión y uno que realmente la posee se convierte en una de las preguntas más importantes en el campo.

Basado en información de The Conversation.

Lee el estudio original.

Escrito por

NAVION