Un legislador canadiense pronunció recientemente un discurso en el pleno que contenía algo que ningún discurso debería incluir jamás: una instrucción de un modelo de lenguaje de IA diciéndose a sí mismo cómo reescribir su propio resultado. El momento fue incómodo, público y ampliamente compartido. También revela algo que vale la pena comprender sobre cómo los profesionales están utilizando las herramientas de IA y qué sucede cuando ese uso sale mal a la vista de todos.
Una instrucción de prompt presentada como política
Bill Oliver, miembro de la asamblea legislativa de New Brunswick y representante del Progressive Conservative Party, estaba hablando sobre las oficinas de defensoría y la brecha entre las expectativas de los ciudadanos y los poderes reales que poseen dichas oficinas. El contenido del discurso no tenía nada de particular. Lo que siguió, sí.
Tras pronunciar una frase sobre los peligros de las oficinas de defensoría, Oliver leyó en voz alta lo que parecía ser una metainstrucción de un modelo de lenguaje de gran tamaño (LLM): una frase que indicaba que lo que seguía era “una versión más natural y fluida” de una sección, reescrita para que se leyera como un discurso legislativo en lugar de una lista de puntos. Este es el tipo de texto que produce un LLM cuando presenta un borrador revisado junto con una explicación de lo que cambió y por qué. No está pensado para ser dicho en voz alta. Es un andamiaje, no contenido.
El discurso pasó en gran medida desapercibido en su momento. Fue solo cuando el video comenzó a circular en plataformas como Reddit y Threads que el momento atrajo una atención más amplia. Medios canadienses como la CBC y The Toronto Star se hicieron eco de la historia, y el incidente pasó a formar parte de la discusión pública general.
Un patrón en diversas profesiones
Oliver no es el primer político en pronunciar un discurso escrito por otra persona, y casi con certeza tampoco es el primero en utilizar una herramienta de IA en el proceso de redacción. Lo que hace que este caso sea diferente es la naturaleza específica del error: no es un dato alucinado ni una frase torpe, sino una instrucción de salida de un LLM sin editar, leída en voz alta como si fuera parte del propio discurso. La implicación es que el texto se utilizó sin haber sido leído o comprendido completamente antes de ser pronunciado.
Este tipo de exposición no es exclusiva de la política. Abogados, autores, periodistas y académicos han enfrentado escrutinio cuando su uso de modelos de lenguaje se hizo visible, típicamente porque aparecieron errores alucinados en trabajos que se presentaron como escritos por humanos. El hilo conductor no es el uso de la IA en sí, sino la ausencia de una revisión adecuada antes de que el trabajo se hiciera público.
Un estudio de la Duke University citado en el material de origen reveló que los trabajadores tienden a ocultar su uso de la IA, en parte porque sus compañeros perciben el trabajo asistido por IA como algo “perezoso” o como una señal de que la persona que lo hace es “reemplazable”. Ese hallazgo ayuda a explicar por qué la exposición tiende a ser accidental en lugar de revelada voluntariamente. Las personas no están anunciando que usan estas herramientas. Esperan que nadie se dé cuenta.
Lo que realmente revela el bochorno
El instinto de interpretar esta historia como una simple moraleja sobre el descuido es comprensible, pero pasa por alto el punto más estructural. El problema no es que Oliver haya utilizado una herramienta de IA para ayudar a redactar un discurso. Los políticos, ejecutivos y profesionales de todo tipo siempre han dependido del personal, redactores de discursos y asesores para preparar sus comunicaciones públicas. El uso de asistencia no es el problema.
El problema es la ausencia de una capa de revisión entre el resultado de la herramienta y el registro público. Un LLM no sabe cuándo se está leyendo en voz alta en una legislatura. No distingue entre el texto que pertenece a un discurso y el metacomentario que genera sobre ese texto. Esa distinción es una responsabilidad humana y, en este caso, no se ejerció.
Esto es lo que la mayoría de la cobertura sobre los percances de la IA tiende a no enfatizar lo suficiente. La tecnología no falla en estos momentos. Lo que falla es el flujo de trabajo. El modelo produjo un resultado que incluía tanto un borrador revisado como una explicación de la revisión, que es exactamente para lo que están diseñados dichos modelos. El fallo residió en tratar ese resultado como definitivo sin leerlo con el suficiente cuidado como para distinguir qué era andamiaje y qué era contenido.
The Toronto Star planteó el incidente como una señal de una creciente división entre quienes delegan sus responsabilidades en la IA y quienes consideran cuestionable esa delegación. Ese enfoque capta algo real. A medida que las herramientas de IA se integran más en los flujos de trabajo profesionales, la cuestión de dónde vuelve a intervenir el juicio humano se vuelve más trascendental, no menos. Las herramientas pueden gestionar el volumen, la velocidad y la redacción. No pueden gestionar la responsabilidad. Esa parte sigue siendo de la persona que pronuncia el discurso.
En resumen
Un legislador canadiense leyó en voz alta una instrucción de prompt de un LLM durante un discurso en el pleno, aparentemente sin darse cuenta de que estaba allí. El incidente se difundió en las redes sociales y atrajo la cobertura de los medios generales. Es un ejemplo dentro de un patrón más amplio: abogados, periodistas, académicos y otros han enfrentado una exposición similar cuando se publicó contenido generado por IA sin la revisión suficiente. Un estudio de la Duke University reveló que los trabajadores tienden a ocultar su uso de la IA porque sus compañeros lo ven como una señal de pereza o de sustituibilidad. La verdadera lección no es que las herramientas de IA causen vergüenza. Es que cualquier flujo de trabajo que utilice estas herramientas requiere un paso de revisión humana antes de que el resultado se haga público, y ese paso no se puede omitir.
Basado en información de Ars Technica.