Em março de 2016, um programa de Go fez uma jogada tão inesperada que os comentaristas presumiram ser um erro. Não era. Aquele único momento, agora conhecido como move 37, tornou-se um dos eventos mais referenciados na história da IA. Mas quase uma década depois, a arquitetura que tornou isso possível está ausente em grande parte dos sistemas de IA que as pessoas usam todos os dias. Essa lacuna importa mais do que a maioria das coberturas reconhece.
O Que o AlphaGo Realmente Fez, e Por Que Foi Diferente
Go não é xadrez. Quando o Deep Blue derrotou Garry Kasparov em 1997, ele o fez avaliando até 200 milhões de posições de xadrez por segundo usando regras escritas por humanos. Go opera em uma escala de complexidade totalmente diferente, pois computar até mesmo uma fração de seus resultados possíveis levaria um supercomputador bilhões de anos. Para vencer, um programa não pode simplesmente calcular seu caminho para a frente. Ele precisa avaliar o tabuleiro em uma olhada e, ocasionalmente, inventar jogadas que nenhum humano considerou.
O AlphaGo resolveu isso por meio de dois componentes distintos trabalhando juntos. O primeiro foi uma rede de política treinada para prever o que um jogador humano forte faria. Essa rede classificou o move 37 como tendo aproximadamente uma chance em 10.000 de ser jogado por um especialista. O segundo componente foi um mecanismo de busca que construiu e explorou explicitamente uma árvore de jogo com milhares de ramos, cada um representando um futuro possível diferente. Foi essa maquinaria de busca, e não a rede intuitiva, que identificou o move 37 como a escolha certa.
Isso mapeia para uma estrutura bem conhecida em ciência comportamental, associada a Daniel Kahneman, que distingue entre pensamento rápido e automático e pensamento lento e deliberado. O AlphaGo incorporou ambos: as redes forneceram os palpites, a busca forneceu o escrutínio. Nenhum funcionava sem o outro.
O Que Large Language Models Fazem em Vez Disso
Os sistemas de IA dominantes de hoje, large language models, operam com base em um princípio fundamentalmente diferente. Eles preveem o próximo token em uma sequência, repetidas vezes. Isso é rápido, associativo e incrivelmente eficaz na conclusão de padrões em uma enorme variedade de tópicos. É, nos termos acima, puro pensamento rápido.
O campo reconheceu cedo que a fluência sozinha não era suficiente. A resposta foi uma técnica chamada chain of thought: em vez de responder imediatamente, os modelos geram etapas intermediárias que dividem um problema antes de se comprometerem com uma resposta. Os ganhos são reais, particularmente em matemática e programação. Mas as etapas intermediárias ainda são produzidas pelo mesmo processo de previsão do próximo token. Não há um mecanismo de raciocínio separado. A deliberação é simulada, não estrutural.
Três deficiências específicas decorrem disso. Primeiro, esses modelos não mantêm nenhum registro explícito e inspecionável do que acreditam, do que duvidam e de quais perguntas permanecem em aberto. Não há equivalente à árvore de jogo do AlphaGo, nenhuma estrutura que seja atualizada à medida que novas informações chegam. Segundo, conhecimento e raciocínio estão fundidos dentro dos pesos da rede neural. Não há separação clara entre o que o sistema sabe e como ele manipula esse conhecimento. Terceiro, e talvez o mais preocupante, a pesquisa mostrou que as cadeias de raciocínio que esses modelos produziram são frequentemente construídas após o fato. O modelo chega a uma resposta por uma rota e relata outra diferente.
Por Que Isso Importa Além dos Detalhes Técnicos
Em cenários de baixo risco, essas limitações são gerenciáveis. Um chatbot que ocasionalmente confabula seu raciocínio é um inconveniente. Na medicina, na engenharia ou na pesquisa científica, a mesma falha é um tipo diferente de problema.
Quando um sistema comete um erro em um domínio de alto risco, a capacidade de rastrear esse erro não é opcional. O raciocínio foi falho? A evidência era inválida? As premissas estavam erradas? Um sistema sem um estado epistêmico persistente e inspecionável não pode responder a essas perguntas, porque nunca manteve um. A saída existe, mas o raciocínio que a produziu não, pelo menos não em nenhuma forma que possa ser auditada.
O autor do artigo de origem, que trabalhou no AlphaGo e recentemente deixou o Google DeepMind, argumenta que o caminho a seguir exige a construção de sistemas que mantenham um estado epistêmico explícito: um registro estruturado do que está resolvido, do que é incerto, do que foi descartado e de quais perguntas permanecem em aberto. O raciocínio, nessa visão, é uma sequência de movimentos que atualiza esse estado, guiado por um mecanismo de avaliação independente que aceita apenas alterações apoiadas por evidências. A analogia oferecida é o método científico, aplicado sistematicamente e em escala.
A escala sozinha não resolve isso. Tornar um sistema de pensamento rápido maior aguça suas intuições, mas não o torna deliberado. O move 37 não foi o produto de uma rede de política maior. Foi o produto de um sistema que manteve uma posição, modelou futuros possíveis e escolheu a jogada que seus próprios instintos teriam rejeitado.
Em Resumo
A famosa jogada do AlphaGo não foi intuição de máquina. Foi raciocínio de máquina, construído sobre uma arquitetura que a IA de hoje em grande parte não usa. Large language models são poderosos motores de conclusão de padrões, mas não mantêm crenças inspecionáveis, não separam o conhecimento da inferência e frequentemente reconstroem seu raciocínio após o fato. Para aplicações onde o caminho para uma conclusão importa tanto quanto a conclusão em si, isso é uma limitação estrutural, não temporária.
Com base em reportagem de MIT Technology Review.