The Brief
Sociedade e ética 5 min de leitura

A Ajuda que Prejudica: A IA e a Erosão da Persistência

NAVION

Partilhar

Um teste curto envolvendo frações e compreensão de leitura produziu uma das descobertas mais inquietantes na investigação recente em IA. Não por revelar algo dramático, mas por revelar algo silencioso: uma breve exposição a um assistente de IA parece reduzir a vontade de uma pessoa continuar a tentar assim que esse assistente desaparece.

O Que a Experiência Mostrou Realmente

Investigadores liderados por Brian Christian, da University of California Berkeley, desenharam um estudo controlado e apresentaram-no na terceira conferência anual Conference on Language Modeling. A configuração era direta. Participantes adultos foram convidados a resolver equações envolvendo frações. Um grupo teve acesso a uma janela do ChatGPT durante todo o processo, enquanto o outro trabalhou sem assistência. Depois, a meio do teste, o chatbot foi retirado por completo ao primeiro grupo.

Os resultados foram claros. Enquanto o ChatGPT esteve disponível, o grupo que o utilizou resolveu mais problemas e saltou menos perguntas do que o grupo de controlo. Essa parte é esperada. O momento revelador surgiu depois de a ferramenta desaparecer. Os dois grupos trocaram essencialmente de posição: aqueles que tinham confiado na IA começaram a saltar mais perguntas e a resolver menos, enquanto o grupo que tinha trabalhado sozinho manteve o seu desempenho.

Os investigadores repetiram depois a experiência utilizando perguntas de compreensão de leitura retiradas dos exames SAT. O mesmo padrão emergiu. A precisão e a persistência caíram no grupo assistido por IA assim que a ferramenta foi retirada.

O resumo da descoberta feito pelo próprio Christian merece destaque. Ele descreveu-a como uma situação em que os sistemas criados para serem úteis acabam por ser úteis “de maneiras que não são muito úteis”. Essa tensão está no centro daquilo para onde esta investigação aponta.

O Problema da “Rã Cozida” na Educação

As implicações do estudo são mais agudas quando aplicadas a alunos mais jovens, e os próprios investigadores utilizam uma frase específica para descrever o risco: um problema da “rã cozida”. A preocupação não é que uma única sessão de teste cause danos duradouros. É que o uso sustentado de IA, ao longo de meses e anos, possa erodir gradualmente a motivação e a persistência que tornam a aprendizagem a longo prazo possível. Quando esses efeitos se tornarem visíveis, alertam os investigadores, poderão ser difíceis de reverter.

Esta formulação liga-se diretamente a uma decisão política já em curso. As escolas da Cidade de Nova Iorque restringiram o acesso à IA a cerca de 600.000 alunos, desde a pré-escola até ao oitavo ano. A justificação oferecida pelo chanceler escolar Kamar Samuels foi explícita: as crianças aprendem melhor através do esforço produtivo, através de errar e tentar novamente. Nenhuma ferramenta de IA, na sua opinião, consegue replicar esse processo.

O que o estudo de Berkeley acrescenta a esse argumento é peso empírico. A preocupação já não é puramente filosófica. Mesmo em sessões de teste curtas medidas em minutos, o padrão de persistência reduzida apareceu. A questão que a investigação levanta não é se a IA é útil. Claramente é, pelo menos no momento. A questão é o que acontece aos hábitos cognitivos que se formam através da dificuldade, da repetição e do fracasso, quando essas experiências são sistematicamente contornadas.

Porque É Que Isto Importa Além da Sala de Aula

O estudo foca-se em alunos e condições de teste, mas as implicações estendem-se mais longe. Os próprios investigadores dão a entender isto quando colocam a questão dos agentes de IA desenhados para remover a fricção das tarefas diárias, e não apenas das académicas. Se o esforço produtivo que constrói a persistência é valioso na aprendizagem, é razoável perguntar se também é valioso na resolução profissional de problemas, no trabalho criativo e na tomada de decisões sob incerteza.

Isto é o que a maior parte da cobertura sobre a capacidade da IA tende a ignorar. A conversa em torno das ferramentas de IA está quase inteiramente focada na qualidade do resultado: se o modelo dá uma resposta correta, se escreve um parágrafo coerente, se resolve a equação. O estudo de Berkeley muda o enquadramento. Pergunta o que acontece à pessoa que utiliza a ferramenta, não apenas no momento, mas depois. O desempenho durante as tarefas assistidas por IA parecia melhor. O desempenho depois de a ferramenta ser retirada parecia pior.

Essa assimetria importa para qualquer pessoa que pense em como a IA se enquadra nos fluxos de trabalho, nos sistemas de educação ou nos hábitos individuais. Uma ferramenta que melhora o resultado a curto prazo enquanto reduz a capacidade subjacente que gera o resultado não é diretamente benéfica. É uma troca, e uma troca que tende a ser invisível até que a ferramenta deixa de estar disponível.

O estudo não defende que a assistência da IA deva ser evitada. Defende que os efeitos dessa assistência na cognição humana merecem séria atenção, e que esses efeitos podem acumular-se de maneiras que demoram a aparecer e são difíceis de desfazer.

Em Resumo

Um estudo controlado apresentado na conferência Conference on Language Modeling concluiu que os adultos que utilizaram o ChatGPT durante um teste se tornaram menos persistentes e menos precisos assim que a ferramenta foi retirada, em comparação com aqueles que tinham trabalhado sem ela. O efeito apareceu tanto em tarefas de matemática como de compreensão de leitura. Os investigadores descrevem o risco para os alunos mais jovens como um problema da “rã cozida”: a erosão gradual da motivação e da persistência que impulsionam a aprendizagem, acumulando-se ao longo de anos antes de se tornarem visíveis. A questão central não é se a IA produz bons resultados no momento. É o que a dependência repetida desses resultados faz à capacidade humana que permanece quando a ferramenta já cá não está.

Com base em reportagem de Nautilus.

Escrito por

NAVION