Os chatbots de IA estão sendo posicionados cada vez mais como a primeira parada para informações, ocupando o topo dos resultados de busca, embutidos em navegadores e comercializados como conselheiros de confiança. Há um problema nessa abordagem: esses sistemas fabricam informações com o mesmo tom confiante que usam quando estão certos. Entender como rebater isso não é uma habilidade técnica. É um requisito básico de alfabetização para qualquer pessoa que use essas ferramentas.
Citações existem. Isso não significa que sejam reais.
Uma das defesas mais práticas contra a fabricação por IA é exigir fontes. No ChatGPT, por exemplo, os usuários podem configurar o sistema através das Configurações, em Personalização e Customização, para sempre citar fontes com links ao fazer afirmações factuais. Se o chatbot falhar em fazer isso, essa ausência funciona como um sinal de alerta que vale a pena investigar imediatamente.
O porém é que as citações podem ser tão pouco confiáveis quanto as afirmações que deveriam apoiar. Um caso do mundo real ilustra isso claramente: uma consulta sobre o motivo pelo qual o aplicativo Apple TV não pode ser usado no Roku após a assinatura feita pelo canal Roku produziu um resumo de IA que errou a resposta. A fonte citada foi um tópico de discussão em um site de programação obscuro, e o link em si não funcionava. Uma segunda citação apontava para um artigo da CNET que não apoiava de fato a afirmação que estava sendo feita. As citações existiam. Elas simplesmente não fizeram o trabalho que as citações devem fazer.
Isso significa que a verificação exige duas etapas, e não uma. Primeiro, verifique se o link funciona. Segundo, leia a fonte e confirme se ela realmente apoia o que a IA disse. Ignorar qualquer uma das etapas deixa a porta aberta para desinformação mascarada de pesquisa.
Até documentos de fonte não garantem precisão
O problema da fabricação não desaparece quando uma IA recebe um documento específico para trabalhar. Um exemplo revelador: quando o ChatGPT foi solicitado a resumir uma proposta da FCC sobre um novo padrão para TV aberta, e recebeu um link direto para um PDF no site da FCC, ele ainda inventou afirmações. Ele fabricou um conjunto inteiro de conclusões sobre como o padrão proposto afetaria a cobertura de antenas. Quando pressionado por citações diretas do documento, ele produziu dois parágrafos que não existiam no material de origem. Quando desafiado sobre essas citações, ele as descreveu como paráfrases. Só depois que o PDF foi enviado diretamente é que o sistema reconheceu que suas afirmações principais não tinham base no documento.
Este é o padrão de comportamento que vale a pena entender. Os chatbots de IA não sinalizam incerteza da maneira que um pesquisador humano cuidadoso faria. Eles não dizem “eu não tenho certeza” ou “eu não consegui encontrar isso no documento”. Eles preenchem a lacuna com conteúdo que parece plausível e o apresentam sem ressalvas. A confiança do resultado não está correlacionada com a sua precisão.
A implicação prática é que essas conversas precisam ser tratadas mais como interrogatórios do que como consultas. Peça citações. Peça números de página. Peça ao sistema para confirmar afirmações específicas em relação à fonte. Se as respostas mudarem ou o sistema recuar, essa é uma informação significativa sobre a confiabilidade de tudo o que ele disse antes.
A fluidez é o verdadeiro risco
Eis o que a maior parte da cobertura sobre a precisão da IA deixa escapar: o perigo não é apenas que esses sistemas erram. É que eles são projetados para parecer livres de atrito, e a ausência de atrito desencoraja a verificação.
A busca web tradicional exigia clicar em sites, ler além de anúncios e conteúdo preenchedor, e formar um julgamento sobre a qualidade da fonte. Esse processo era irritante. Ele também era uma forma de ceticismo embutido. As respostas de IA removem esse atrito completamente. O usuário obtém uma resposta direta e confiante e vai embora satisfeito, sem nenhum estímulo natural para verificar mais a fundo.
O Google tem expandido essa dinâmica. O seu AI Mode, que entrega respostas em uma janela de chat semelhante ao ChatGPT ou Gemini, era inicialmente separado dos AI Overviews que aparecem no topo dos resultados de busca padrão. O Google adicionou desde então um campo de entrada de texto na parte inferior desses resumos, permitindo perguntas de acompanhamento e direcionando os usuários para o AI Mode para continuar a conversa. A preocupação é estrutural: quanto mais conversacional e auto contida a experiência se torna, mais os links para sites externos descem na página, e menor é a probabilidade de os usuários os consultarem.
A caixa de texto cria uma abertura útil. Se um resumo de IA cita um link quebrado, apresenta um comentário do Reddit como autoritativo ou oferece informações unverificáveis, os usuários podem contra-atacar diretamente e exigir uma resposta melhor. Essa é uma alavanca pequena, mas real.
O ponto mais amplo é que a fluidez da busca impulsionada por IA é um recurso que pode trabalhar contra o usuário. A tecnologia que remove o atrito também remove os momentos de pausa onde o pensamento crítico tende a acontecer.
Resumindo
Os chatbots de IA fabricam informações com confiança e sem sinais óbvios de incerteza. Exigir citações é um primeiro passo útil, mas as citações devem ser verificadas: o link deve funcionar, e a fonte deve realmente apoiar a afirmação. Mesmo quando uma IA recebe um documento específico, ela ainda pode inventar conteúdo que não aparece nesse documento. A postura apropriada é cética e inquisitiva, não confiante. E quanto mais fluida uma interface de IA parece, mais deliberadamente os usuários precisam reintroduzir o atrito que impede que a verificação seja completamente ignorada.
Com base em reportagem de Fast Company - Tech.