The Brief
Cómo funciona la IA 5 min de lectura

Move 37 y la brecha de razonamiento en la IA moderna

NAVION

Compartir

En marzo de 2016, un programa para jugar al Go hizo una jugada tan inesperada que los comentaristas asumieron que se trataba de un error. No lo era. Ese único momento, conocido ahora como move 37, se ha convertido en uno de los eventos más referenciados en la historia de la IA. Sin embargo, casi una década después, la arquitectura que lo hizo posible está ausente en gran medida de los sistemas de IA que la gente usa todos los días. Esa brecha importa más de lo que la mayoría de la cobertura reconoce.

Qué hizo realmente AlphaGo y por qué fue diferente

El Go no es el ajedrez. Cuando Deep Blue derrotó a Garry Kasparov en 1997, lo hizo evaluando hasta 200 millones de posiciones de ajedrez por segundo utilizando reglas escritas por humanos. El Go opera en una escala de complejidad completamente diferente, ya que calcular incluso una fracción de sus resultados posibles le tomaría a una supercomputadora miles de millones de años. Para ganar, un programa no puede simplemente calcular su camino hacia adelante. Tiene que evaluar el tablero de un vistazo y, ocasionalmente, inventar jugadas que ningún humano ha considerado.

AlphaGo resolvió esto mediante dos componentes distintos que trabajaban juntos. El primero era una red de políticas entrenada para predecir lo que haría un jugador humano fuerte. Esa red calificó la jugada 37 con una probabilidad de aproximadamente una entre 10.000 de ser realizada por un experto. El segundo componente era un mecanismo de búsqueda que construía y exploraba explícitamente un árbol de juego con miles de ramas, cada una representando un futuro posible diferente. Fue esta maquinaria de búsqueda, y no la red intuitiva, la que identificó la jugada 37 como la decisión correcta.

Esto se alinea con un marco muy conocido en la ciencia del comportamiento, asociado con Daniel Kahneman, que distingue entre el pensamiento rápido y automático y el pensamiento lento y deliberado. AlphaGo encarnaba ambos: las redes proporcionaban las corazonadas y la búsqueda proporcionaba el escrutinio. Ninguno funcionaba sin el otro.

Qué hacen los modelos de lenguaje grande en su lugar

Los sistemas de IA dominantes de hoy en día, los modelos de lenguaje grande, operan bajo un principio fundamentalmente diferente. Predicen el siguiente token en una secuencia, una y otra vez. Esto es rápido, asociativo y notablemente efectivo para completar patrones en una gama enorme de temas. Es, en los términos mencionados arriba, puro pensamiento rápido.

El campo reconoció pronto que la fluidez por sí sola no era suficiente. La respuesta fue una técnica llamada cadena de pensamiento: en lugar de responder de inmediato, los modelos generan pasos intermedios que descomponen un problema antes de comprometerse con una respuesta. Las ganancias son reales, particularmente en matemáticas y programación. Pero los pasos intermedios siguen siendo producidos por el mismo proceso de predicción del siguiente token. No hay un mecanismo de razonamiento separado. La deliberación es simulada, no estructural.

De esto se desprenden tres deficiencias específicas. Primero, estos modelos no mantienen un registro explícito e inspeccionable de lo que creen, lo que dudan y qué preguntas siguen abiertas. No hay un equivalente al árbol de juego de AlphaGo, ninguna estructura que se actualice a medida que llega nueva información. Segundo, el conocimiento y el razonamiento se fusionan dentro de los pesos de la red neuronal. No hay una separación limpia entre lo que el sistema sabe y cómo manipula ese conocimiento. Tercero, y quizás lo más preocupante, la investigación ha demostrado que las cadenas de razonamiento que producen estos modelos a menudo se construyen después del hecho. El modelo llega a una respuesta por una ruta y reporta una diferente.

Por qué esto importa más allá de los detalles técnicos

En entornos de baja relevancia, estas limitaciones son manejables. Un chatbot que ocasionalmente confabula su razonamiento es un inconveniente. En medicina, ingeniería o investigación científica, la misma falla es un problema de otro tipo.

Cuando un sistema comete un error en un dominio de alta relevancia, la capacidad de rastrear ese error no es opcional. ¿Fue defectuoso el razonamiento? ¿Fue inválida la evidencia? ¿Eran incorrectas las suposiciones? Un sistema sin un estado epistémico persistente e inspeccionable no puede responder a esas preguntas, porque nunca mantuvo uno. La salida existe, pero el razonamiento que la produjo no, al menos no en ninguna forma que pueda ser auditada.

El autor del artículo original, que trabajó en AlphaGo y dejó recientemente Google DeepMind, argumenta que el camino a seguir requiere construir sistemas que mantengan un estado epistémico explícito: un registro estructurado de lo que está zanjado, lo que es incierto, lo que ha sido descartado y qué preguntas siguen abiertas. El razonamiento, desde este punto de vista, es una secuencia de movimientos que actualiza ese estado, guiado por un mecanismo de evaluación independiente que solo acepta cambios respaldados por evidencia. La analogía ofrecida es el método científico, aplicado sistemáticamente y a escala.

La escala por sí sola no resuelve esto. Hacer que un sistema de pensamiento rápido sea más grande agudiza sus intuiciones, pero no lo hace deliberativo. La jugada 37 no fue el producto de una red de políticas más grande. Fue el producto de un sistema que mantuvo una posición, modeló futuros posibles y eligió la jugada que sus propios instintos habrían rechazado.

En resumen

La famosa jugada de AlphaGo no fue intuición de máquina. Fue razonamiento de máquina, construido sobre una arquitectura que la IA actual en gran medida no utiliza. Los modelos de lenguaje grande son potentes motores de finalización de patrones, pero no mantienen creencias inspeccionables, no separan el conocimiento de la inferencia y a menudo reconstruyen su razonamiento después del hecho. Para aplicaciones donde el camino hacia una conclusión importa tanto como la conclusión misma, eso es una limitación estructural, no temporal.

Basado en información de MIT Technology Review.

Escrito por

NAVION