Durante 75 años, la investigación en inteligencia artificial ha operado sobre dos ideas introducidas por Alan Turing en 1950. Un destacado científico informático sostiene ahora que esas ideas eran erróneas, y que las consecuencias de seguirlas han moldeado el desarrollo de la IA de maneras que podrían ser fundamentalmente limitantes. No se trata de una crítica técnica menor. Es un desafío a los fundamentos conceptuales de todo el campo.
Peter J. Denning, el científico informático detrás de este argumento, expone su caso en un libro titulado Turing’s Mistake: Escaping the Yoke of Unintelligent Machines. Su tesis central es que dos suposiciones que hizo Turing nunca han sido cuestionadas seriamente, y que ambas son incorrectas.
La primera suposición: la inteligencia puede existir independientemente de un cuerpo físico y, por tanto, recrearse en software. La segunda: una máquina puede demostrar inteligencia imitando de manera convincente a un ser humano en una conversación, lo que se convirtió en la base del famoso test de Turing. La postura de Denning es directa. Aceptar estas afirmaciones sin escrutinio, escribe, ha conducido a lo que él denomina “el desastre de la IA en el que nos encontramos hoy”.
El Conocimiento que No Puede Escribirse en un Ordenador
El núcleo del argumento de Denning es el conocimiento tácito. Esta es la vasta categoría de comprensión humana que se resiste a ser expresada con palabras o codificada en datos. No es ignorancia. Es todo lo contrario: la competencia profunda y encarnada que permite a una persona desenvolverse en el mundo sin poder explicar del todo cómo lo hace.
Denning identifica cinco grandes categorías de conocimiento tácito que el aprendizaje automático no puede capturar: el sentido común, las interacciones cotidianas con personas y el entorno físico, las emociones y la percepción, las habilidades prácticas de desempeño, y el conocimiento social e histórico arraigado en la cultura.
El desafío de codificar el sentido común no es nuevo. Uno de los intentos más sostenidos fue el proyecto Cyc, iniciado por Douglas Lenat en la década de 1980. Su objetivo era construir una base de datos exhaustiva de hechos de sentido común. Tras cuatro décadas de trabajo, el proyecto contenía aproximadamente 25 millones de entradas. Es una empresa enorme por cualquier medida. Sin embargo, la valoración de Denning es implacable: ni siquiera esa escala de esfuerzo pudo producir un sistema con una comprensión genuina a nivel experto. El proyecto, argumenta, en realidad validó el problema en lugar de resolverlo. Gran parte de lo que hace capaces a los expertos humanos sencillamente no puede articularse como proposiciones.
Las habilidades prácticas presentan una versión aún más aguda de este problema. Denning establece una distinción entre “saber qué” y “saber cómo”. Las descripciones de resultados habilidosos pueden almacenarse como datos. El conocimiento encarnado necesario para ejecutar realmente una habilidad, no. Un violinista virtuoso puede producir música extraordinaria, pero no puede explicarle plenamente a un estudiante cómo replicarla. Aunque un robot pudiera observar e imitar a un músico habilidoso, no tendría acceso a lo que el músico siente mientras toca, ni a lo que siente el público mientras escucha. La interpretación y la experiencia de la interpretación son inseparables de tener un cuerpo biológico.
Por Qué Escalar No Resuelve el Problema
Aquí es donde el argumento de Denning resulta más directamente relevante para el momento actual del desarrollo de la IA. Los grandes modelos de lenguaje como ChatGPT, Claude y Gemini son capaces de producir texto fluido y contextualmente apropiado. También están, según Denning, haciendo algo fundamentalmente distinto a comprender.
Su planteamiento es preciso: las palabras son representaciones simbólicas de significados, no los significados en sí mismos. Los LLM manipulan palabras. No saben lo que las palabras significan. Detrás de cada palabra, argumenta Denning, hay un profundo pozo de conocimiento tácito que le otorga significado, y ese pozo es inaccesible para cualquier sistema que opere puramente sobre símbolos codificados.
El contexto agrava el problema. La inteligencia humana depende de una red interminable y fractal de conversaciones previas, supuestos culturales e historia social. Reconocer el sarcasmo, saber cuándo ser diplomático, interpretar una solicitud ambigua: todo ello requiere acceso a capas de contexto que nunca son del todo explícitas. La cultura, en el planteamiento de Denning, abarca valores, normas, juicios, historia, comunidades, estados de ánimo y relaciones que implican poder y cuidado. Escalar las redes neuronales con más datos y más parámetros no le da a un sistema acceso a nada de eso. Le da más patrones sobre el mismo tipo de símbolos codificados.
Lo que Esto Significa Más Allá del Debate Técnico
Esto es lo que la mayoría de la cobertura sobre los debates de capacidad de la IA pasa por alto: lo que está en juego no es principalmente si la IA superará el test de Turing. Es la seguridad y la alineación en un mundo donde los sistemas de IA ya operan de forma autónoma a gran escala.
La preocupación de Denning no es el escenario de ciencia ficción de máquinas superinteligentes tomando el control. Su preocupación es más concreta y, podría decirse, más urgente. Es probable que las redes agénticas de máquinas desarrollen sus propias formas de inteligencia maquinal que, sin alcanzar la inteligencia general humana, sean aun así capaces de generar problemas graves. Si las máquinas no pueden interpretar el contexto no expresado que subyace a las intenciones humanas, alinear los sistemas avanzados de IA con los objetivos humanos podría resultar imposible. Los humanos no pueden leer el conocimiento tácito de las máquinas. Las máquinas no pueden leer el conocimiento tácito de los humanos. Denning describe esto como “alienígenas separados por una brecha infranqueable”.
La implicación práctica es significativa. Los sistemas de IA pueden ser potentes, útiles y genuinamente valiosos sin ser inteligentes de la manera en que lo son los humanos. Tratarlos como si lo fueran, o trabajar hacia una versión de ellos que lo sea, puede ser una dirección completamente equivocada.
En Resumen
Las dos suposiciones fundacionales de Turing —que la inteligencia es independiente del sustrato y que la imitación equivale a la inteligencia— han guiado la investigación en IA durante 75 años. Denning argumenta que ambas son incorrectas. El obstáculo central es el conocimiento tácito: la comprensión encarnada, contextual y cultural que los humanos poseen pero no pueden articular plenamente, y que ninguna cantidad de datos ni escala computacional puede codificar. Esto no significa que la IA sea inútil. Significa que el campo puede haber estado optimizando hacia el objetivo equivocado, y que los riesgos de seguir haciéndolo son más prácticos que teóricos.
Basado en información de ScienceDaily AI.