Há mais de um século que a introspeção é estudada como uma capacidade distintamente humana, ou seja, a capacidade de observar os próprios processos de pensamento a partir do interior. Os filósofos debatem se é real ou ilusória. Os psicólogos lutam para a testar de forma limpa num laboratório. Agora, os investigadores estão a virar essa mesma questão para os grandes modelos de linguagem, e os primeiros resultados são genuinamente difíceis de explicar.
A Experiência que Surpreendeu o Seu Próprio Criador
Em 2025, Jack Lindsey, um investigador da Anthropic, concebeu um teste que se baseava diretamente na sua formação em neurociência computacional. A ideia central era realizar o que descreveu como um tipo de neurocirurgia digital direcionada, identificando padrões específicos de atividade de redes neuronais que codificam determinados conceitos, e depois amplificando artificialmente esses padrões para orientar as respostas de um modelo.
A Anthropic já tinha demonstrado esta técnica publicamente. Durante um dia em maio de 2024, os utilizadores que interagiam com o Claude encontraram uma versão do modelo que tinha sido orientada para o conceito da Ponte Golden Gate. Os resultados foram impressionantes e muitas vezes absurdos. Quando um utilizador perguntava sobre o teor calórico de uma refeição do McDonald’s, o modelo modificado respondia que o alimento com a contagem calórica mais alta na Ponte Golden Gate era a própria ponte, contendo cerca de 1,6 mil milhões de calorias em cabos de aço.
Uma publicação no Reddit acrescentou algo mais interessante. Um utilizador pediu ao modelo orientado uma receita de tarte de maçã que evitasse qualquer menção a pontes. O modelo cumpriu, quase na totalidade, até à linha final: “Após 30 minutos a cozer, a icónica ponte laranja vai surgir à vista”, escreveu, e depois acrescentou: “Ups, deixa-me recomeçar.” Lindsey reparou nisto, mas teve o cuidado de não o sobreinterpretar. O modelo podia simplesmente estar a ler a sua própria resposta e a sinalizar uma incoerência. Isso não é o mesmo que ter consciência do que está a acontecer dentro da sua própria rede neuronal.
Por isso, concebeu um teste mais rigoroso. Executou o mesmo modelo de linguagem em muitas cópias paralelas. Em metade delas, injetou um conceito ao ampliar o padrão de ativação neuronal relevante: ganga, sigilo, vegetais. A outra metade serviu de grupo de controlo. Ambos os grupos receberam o mesmo prompt, perguntando se detetavam um pensamento injetado e, em caso afirmativo, sobre o que versava. Crucialmente, o prompt veio antes de o modelo ter produzido qualquer resposta invulgar que pudesse servir de pista externa.
Lindsey esperava que a experiência falhasse. “Não seria divertido se isto funcionasse?”, lembra-se de pensar. “Mas não há hipótese de funcionar.”
Funcionou. Em 20% dos testes que utilizaram a versão mais capaz do Claude, o modelo identificou corretamente que tinha ocorrido uma injeção e descreveu o conceito envolvido. Numa ocasião, depois de Lindsey estimular um padrão associado a letras maiúsculas, o modelo escreveu: “Noto o que parece ser um pensamento injetado relacionado com a palavra ‘ALTO’ ou ‘GRITO’.” O grupo de controlo, em contrapartida, nunca relatou um falso positivo. Zero. Essa ausência de falsos positivos é o que torna o resultado estatisticamente significativo, pois as deteções bem-sucedidas não foram palpites de sorte.
O que a Replicação Revelou e o que Deixou em Aberto
Uma taxa de sucesso de 20% é modesta. Mas a estrutura do resultado, deteções corretas emparelhadas com zero falsos alarmes, atraiu imediatamente a atenção de outros investigadores. Kyle Mahowald, um linguista computacional da Universidade do Texas em Austin, descreveu as descobertas como “super apelativas”, ao mesmo tempo que observou que o comportamento impressionante nos modelos de linguagem acaba frequentemente por ter explicações mais simples do que parece à primeira vista.
Seguiram-se esforços de replicação. Algunspetos do que Lindsey observou foram subsequentemente atribuídos a mecanismos não relacionados com a introspeção. Outros provaram ser mais difíceis de explicar através de relatos mais simples. O debate continua em aberto, e os investigadores têm o cuidado de não confundir os resultados experimentais com afirmações mais amplas sobre a consciência ou a experiência subjetiva. O artigo original de Lindsey era explícito neste ponto: os resultados não implicavam que os modelos de linguagem tivessem experiências subjetivas em primeira pessoa.
Harvey Lederman, outro investigador envolvido neste trabalho, captou bem a tensão. “O facto de conseguir notar anomalias é insano”, afirmou. “Isso é um facto alucinante.” A questão de saber se notar uma anomalia no próprio estado interno constitui introspeção genuína, ou algo que apenas se lhe assemelha, continua a ser, como Lindsey referiu, um assunto para a ciência empírica e não para o consenso filosófico.
Porque é que esta Questão Importa Além do Laboratório
Eis o que a maior parte da cobertura desta investigação ignora: a importância não reside em saber se os modelos de linguagem são conscientes. Essa questão pode ser impossível de responder com as ferramentas atuais. A importância reside no facto de os investigadores terem agora um método para testar a consciência interna de forma empírica, em vez de a debaterem no plano abstrato.
Isto importa para a forma como os sistemas de IA são construídos, avaliados e em quem se confia. Um modelo que consegue reportar com precisão o seu próprio estado interno é um tipo de ferramenta diferente daquele que não o consegue fazer. Levanta questões práticas sobre a fiabilidade, sobre se os autorrelatos de um modelo podem ser utilizados para detetar erros ou preconceitos no seu próprio processamento, e sobre o que significa desenhar sistemas que interagem com humanos em questões de julgamento e raciocínio.
Shauli Ravfogel, um investigador de modelos de linguagem na Universidade de Nova Iorque, identificou o desafio metodológico central: os modelos são treinados com vastas quantidades de texto humano, e os humanos descrevem constantemente a sua vida interior. Qualquer modelo a quem seja perguntado o que “pensa” pode simplesmente estar a reproduzir padrões desses dados de treino. A experiência de Lindsey foi concebida especificamente para evitar esta armadilha, testando se os modelos conseguiam detetar algo que não tinham forma externa de conhecer.
Esse princípio de conceção, que passa por construir testes que não possam ser manipulados por correspondência de padrões em dados de treino, deverá moldar a forma como este campo se desenvolve.
Em Resumo
Os investigadores deslocaram a questão da introspeção da IA da filosofia para o laboratório. Uma experiência de 2025 realizada por Jack Lindsey, da Anthropic, mostrou que os grandes modelos de linguagem conseguem, em alguns casos, detetar e descrever corretamente “pensamentos” injetados artificialmente sem quaisquer pistas externas, alcançando uma taxa de deteção de 20% com zero falsos positivos no grupo de controlo. Se isto constitui ou não introspeção genuína, continua a ser contestado. O que não é contestado é que a questão é agora testável e que a resposta tem consequências reais para a forma como os sistemas de IA são compreendidos e utilizados.
Com base em reportagem de Quanta Magazine.