Durante 75 anos, a pesquisa em inteligência artificial operou com base em duas ideias introduzidas por Alan Turing em 1950. Um proeminente cientista da computação argumenta agora que essas ideias estavam equivocadas, e que as consequências de segui-las moldaram o desenvolvimento da IA de maneiras que podem ser fundamentalmente limitantes. Esta não é uma crítica técnica menor. É um desafio aos alicerces conceituais de todo o campo.
Peter J. Denning, o cientista da computação por trás desse argumento, expõe seu raciocínio em um livro intitulado Turing’s Mistake: Escaping the Yoke of Unintelligent Machines. Sua tese central é que duas suposições feitas por Turing jamais foram seriamente questionadas, e que ambas estão erradas.
A primeira suposição: a inteligência pode existir independentemente de um corpo físico e, portanto, ser recriada em software. A segunda: uma máquina pode demonstrar inteligência ao imitar convincentemente um ser humano em uma conversa, o que se tornou a base do famoso teste de Turing. A posição de Denning é direta. Aceitar essas afirmações sem escrutínio, ele escreve, levou ao que chama de “a bagunça da IA em que nos encontramos hoje.”
O Conhecimento Que Não Pode Ser Digitado em um Computador
O centro do argumento de Denning é o conhecimento tácito. Esta é a vasta categoria de compreensão humana que resiste a ser colocada em palavras ou codificada em dados. Não se trata de ignorância. É o oposto: a competência profunda e incorporada que permite a uma pessoa navegar pelo mundo sem conseguir explicar completamente como o faz.
Denning identifica cinco grandes categorias de conhecimento tácito que o aprendizado de máquina não consegue capturar: senso comum, interações cotidianas com pessoas e o ambiente físico, emoções e percepção, habilidades de desempenho prático e o conhecimento social e histórico incorporado na cultura.
O desafio de codificar o senso comum não é novo. Uma das tentativas mais persistentes foi o projeto Cyc, iniciado por Douglas Lenat na década de 1980. Seu objetivo era construir um banco de dados abrangente de fatos de senso comum. Após quatro décadas de trabalho, o projeto continha cerca de 25 milhões de entradas. Trata-se de um empreendimento enorme por qualquer medida. No entanto, a avaliação de Denning é implacável: mesmo essa escala de esforço não foi capaz de produzir um sistema com compreensão genuína em nível especializado. O projeto, ele argumenta, na verdade validou o problema em vez de resolvê-lo. Grande parte do que torna os especialistas humanos capazes simplesmente não pode ser articulada como proposições.
As habilidades práticas apresentam uma versão ainda mais nítida desse problema. Denning traça uma distinção entre “saber o quê” e “saber como”. Descrições de resultados habilidosos podem ser armazenadas como dados. O conhecimento incorporado necessário para realmente executar uma habilidade não pode. Um violinista virtuoso pode produzir música extraordinária, mas não consegue explicar completamente a um aluno como replicá-la. Mesmo que um robô pudesse observar e imitar um músico habilidoso, não teria acesso ao que o músico sente enquanto toca, nem ao que o público sente enquanto ouve. A performance e a experiência da performance são inseparáveis de se ter um corpo biológico.
Por Que Escalar Não Resolve o Problema
É aqui que o argumento de Denning se torna mais diretamente relevante para o momento atual do desenvolvimento da IA. Grandes modelos de linguagem como ChatGPT, Claude e Gemini são capazes de produzir textos fluentes e contextualmente adequados. Eles também estão, segundo Denning, fazendo algo fundamentalmente diferente de compreender.
Seu enquadramento é preciso: palavras são representações simbólicas de significados, não os significados em si. LLMs manipulam palavras. Eles não sabem o que as palavras significam. Por trás de cada palavra, argumenta Denning, há um poço profundo de conhecimento tácito que lhe confere significado, e esse poço é inacessível a qualquer sistema que opere puramente com símbolos codificados.
O contexto agrava o problema. A inteligência humana depende de uma teia interminável e fractal de conversas anteriores, pressupostos culturais e história social. Reconhecer sarcasmo, saber quando ser diplomático, interpretar um pedido ambíguo: tudo isso exige acesso a camadas de contexto que nunca são totalmente explícitas. A cultura, no enquadramento de Denning, abrange valores, normas, julgamentos, história, comunidades, estados de espírito e relações que envolvem poder e cuidado. Escalar redes neurais com mais dados e mais parâmetros não dá a um sistema acesso a nada disso. Dá-lhe mais padrões sobre o mesmo tipo de símbolos codificados.
O Que Isso Significa Além do Debate Técnico
Eis o que a maior parte da cobertura sobre debates de capacidade da IA deixa passar: o que está em jogo não é principalmente se a IA vai passar no teste de Turing. É sobre segurança e alinhamento em um mundo onde sistemas de IA já operam de forma autônoma em escala.
A preocupação de Denning não é o cenário de ficção científica de máquinas superinteligentes tomando o controle. Sua preocupação é mais concreta e, sem dúvida, mais urgente. Redes agênticas de máquinas provavelmente desenvolverão suas próprias formas de inteligência maquínica que, embora não alcancem a inteligência geral humana, ainda são capazes de criar problemas sérios. Se as máquinas não conseguem interpretar o contexto não dito por trás das intenções humanas, alinhar sistemas avançados de IA com objetivos humanos de forma confiável pode se mostrar impossível. Os humanos não conseguem ler o conhecimento tácito das máquinas. As máquinas não conseguem ler o conhecimento tácito dos humanos. Denning descreve isso como “alienígenas separados por um abismo intransponível.”
A implicação prática é significativa. Sistemas de IA podem ser poderosos, úteis e genuinamente valiosos sem serem inteligentes da maneira que os humanos são. Tratá-los como se fossem, ou construir em direção a uma versão deles que seja, pode ser uma direção completamente equivocada.
Em Resumo
As duas suposições fundamentais de Turing — de que a inteligência é independente do substrato e de que imitação equivale a inteligência — guiaram a pesquisa em IA por 75 anos. Denning argumenta que ambas estão erradas. O obstáculo central é o conhecimento tácito: a compreensão incorporada, contextual e cultural que os humanos carregam, mas não conseguem articular completamente, e que nenhuma quantidade de dados ou escala computacional consegue codificar. Isso não significa que a IA seja inútil. Significa que o campo pode ter estado otimizando para o objetivo errado, e que os riscos de continuar a fazê-lo são mais práticos do que teóricos.
Baseado em reportagem do ScienceDaily AI.