Um parlamentar canadense fez recentemente um discurso em plenário que continha algo que discurso nenhum jamais deveria incluir: uma instrução de um modelo de linguagem de IA dizendo a si mesmo como reescrever o seu próprio resultado. O momento foi constrangedor, público e amplamente compartilhado. Ele também revela algo relevante sobre como os profissionais estão utilizando ferramentas de IA e o que acontece quando esse uso dá errado à vista de todos.
Uma Instrução de Prompt Apresentada como Política
Bill Oliver, membro da Assembleia Legislativa de New Brunswick e representante do Progressive Conservative Party, estava falando sobre os órgãos de defesa de direitos e a lacuna entre as expectativas dos cidadãos e os poderes reais que esses órgãos possuem. O conteúdo do discurso não tinha nada de excepcional. O que se seguiu, no entanto, foi surpreendente.
Após proferir uma frase sobre os perigos desses órgãos, Oliver leu em voz alta o que parecia ser uma metainstrução de um grande modelo de linguagem: uma frase indicando que o trecho a seguir era “uma versão mais natural e fluida” de uma seção, reescrita para soar como um discurso legislativo em vez de uma lista de tópicos. Esse é o tipo de texto que um LLM produz quando apresenta um rascunho revisado junto com uma explicação do que foi alterado e o porquê. Não foi feito para ser lido em voz alta. É uma estrutura de apoio, não o conteúdo final.
O discurso passou praticamente despercebido na ocasião. Foi somente quando o vídeo começou a circular em plataformas como Reddit e Threads que o momento ganhou maior atenção. Veículos de imprensa canadenses, incluindo a CBC e o The Toronto Star, repercutiram a história, e o incidente entrou no debate público geral.
Um Padrão em Diversas Profissões
Oliver não é o primeiro político a proferir um discurso escrito por outra pessoa, e quase certamente não é o primeiro a usar uma ferramenta de IA no processo de redação. O que torna este caso peculiar é a natureza específica do erro: não foi um fato alucinado, tampouco uma frase desajeitada, mas sim uma instrução de saída do LLM sem edição, lida em voz alta como se fizesse parte do próprio discurso. A implicação é que o texto foi utilizado sem ter sido totalmente lido ou compreendido antes de sua apresentação.
Esse tipo de exposição não é exclusivo da política. Advogados, autores, jornalistas e acadêmicos já enfrentaram escrutínio quando o uso de modelos de linguagem se tornou visível, geralmente porque erros com alucinações apareceram em trabalhos apresentados como autoria humana. O elemento em comum não é o uso da IA em si, mas a ausência de uma revisão adequada antes que o trabalho se tornasse público.
Um estudo da Duke University citado no material original revelou que os trabalhadores tendem a ocultar o uso de IA, em parte porque os colegas percebem o trabalho assistido por IA como “preguiçoso” ou como um sinal de que a pessoa que o realiza é “substituível”. Essa descoberta ajuda a explicar por que a exposição costuma ser acidental em vez de declarada. As pessoas não estão anunciando o uso dessas ferramentas; elas estão torcendo para que ninguém perceba.
O Que o Constrangimento Realmente Revela
A tendência de interpretar essa história como um simples alerta sobre descuido é compreensível, mas ignora um ponto mais estrutural. O problema não é que Oliver usou uma ferramenta de IA para ajudar a redigir um discurso. Políticos, executivos e profissionais de todos os setores sempre recorreram a equipes, redatores de discursos e assessores para preparar suas comunicações públicas. O uso de assistência não é a questão central.
A questão é a ausência de uma camada de revisão entre o resultado gerado pela ferramenta e o registro público. Um LLM não sabe quando está sendo lido em voz alta em um parlamento. Ele não distingue entre o texto que pertence ao discurso e o metacomentário que gera sobre esse texto. Essa distinção é uma responsabilidade humana e, neste caso, não foi exercida.
É isso que a maior parte da cobertura sobre falhas de IA costuma subestimar. A tecnologia não falha nesses momentos; o fluxo de trabalho é que falha. O modelo produziu um resultado que incluía tanto um rascunho revisado quanto uma explicação da revisão, que é exatamente o que esses modelos foram projetados para fazer. A falha esteve em tratar esse resultado como definitivo, sem lê-lo com atenção suficiente para identificar o que era estrutura de apoio e o que era conteúdo real.
O The Toronto Star enquadrou o incidente como um sinal do abismo crescente entre aqueles que delegam suas responsabilidades à IA e aqueles que consideram essa delegação repreensível. Essa abordagem reflete algo real. À medida que as ferramentas de IA se tornam mais integradas aos fluxos de trabalho profissionais, a questão de onde o julgamento humano se insere novamente no processo torna-se cada vez mais determinante. As ferramentas conseguem lidar com volume, velocidade e redação inicial. Elas não conseguem lidar com a responsabilidade. Essa parte continua sendo de quem profere o discurso.
Em Resumo
Um parlamentar canadense leu uma instrução de prompt de um LLM em voz alta durante um discurso em plenário, aparentemente sem perceber que ela estava ali. O incidente se espalhou pelas redes sociais e atraiu a cobertura da grande imprensa. Trata-se de um exemplo de um padrão mais amplo: advogados, jornalistas, acadêmicos e outros já enfrentaram exposições semelhantes quando conteúdos gerados por IA foram publicados sem revisão suficiente. Um estudo da Duke University revelou que os trabalhadores tendem a esconder o uso de IA porque os colegas veem isso como sinal de preguiça ou de que a pessoa é substituível. A verdadeira lição não é que as ferramentas de IA causam constrangimentos, mas sim que qualquer fluxo de trabalho que utilize essas ferramentas exige uma etapa de revisão humana antes que o resultado se torne público — e essa etapa não pode ser pulada.
Com base em reportagem de Ars Technica.