Un parlementaire canadien a récemment prononcé un discours dans l’hémicycle qui contenait une chose qu’aucun discours ne devrait jamais inclure : une instruction d’un modèle linguistique d’IA s’indiquant à lui-même comment réécrire sa propre production. Le moment a été embarrassant, public et largement partagé. Il en dit également long sur la façon dont les professionnels utilisent les outils d’IA, et sur ce qui se passe lorsque cette utilisation tourne mal au vu et au su de tous.
Une instruction de prompt prononcée comme un discours politique
Bill Oliver, membre de l’assemblée législative du New Brunswick et représentant du Progressive Conservative Party, s’exprimait sur les bureaux de défense des droits et sur l’écart entre les attentes des citoyens et les pouvoirs réels de ces organismes. Le fond du discours n’avait rien d’extraordinaire. Ce qui a suivi, en revanche, l’était.
Après avoir prononcé une phrase sur les dangers de ces bureaux, Oliver a lu à voix haute ce qui semblait être une méta-instruction d’un grand modèle linguistique : une phrase indiquant que ce qui suivait était « une version plus naturelle et fluide » d’une section, réécrite pour ressembler à un discours législatif plutôt qu’à une liste à puces. C’est le genre de texte qu’un LLM produit lorsqu’il présente une version révisée accompagnée d’une explication de ce qu’il a modifié et pourquoi. Cela n’a pas vocation à être prononcé. C’est un échafaudage, pas du contenu.
Le discours est passé largement inaperçu sur le moment. Ce n’est que lorsque la vidéo a commencé à circuler sur des plateformes comme Reddit et Threads que la séquence a retenu l’attention du grand public. Des médias canadiens, notamment la CBC et The Toronto Star, ont repris l’information, et l’incident est entré dans le débat public général.
Une tendance transversale aux différentes professions
Oliver n’est pas le premier politicien à prononcer un discours écrit par un tiers, et très certainement pas le premier à utiliser un outil d’IA dans le processus de rédaction. Ce qui rend ce cas particulier, c’est la nature spécifique de l’erreur : il ne s’agit pas d’un fait halluciné ni d’une formulation maladroite, mais d’une instruction produite par un LLM et non éditée, lue à voix haute comme si elle faisait partie intégrante du discours. Cela implique que le texte a été utilisé sans avoir été pleinement lu ou compris avant d’être prononcé.
Ce type de mésaventure n’est pas propre à la politique. Des avocats, des auteurs, des journalistes et des universitaires se sont tous retrouvés sous le feu des critiques lorsque leur utilisation de modèles linguistiques est devenue visible, généralement parce que des erreurs hallucinées sont apparues dans des travaux présentés comme rédigés par un humain. Le point commun n’est pas l’utilisation de l’IA en soi, mais l’absence d’une relecture adéquate avant que le travail ne soit rendu public.
Une étude de Duke University citée dans l’article d’origine a révélé que les travailleurs ont tendance à dissimuler leur utilisation de l’IA, en partie parce que leurs collègues perçoivent le travail assisté par l’IA comme « paresseux » ou comme le signe que la personne qui l’effectue est « remplaçable ». Ce constat permet d’expliquer pourquoi la mise au jour de cette pratique tend à être accidentelle plutôt que déclarée. Les gens n’annoncent pas qu’ils utilisent ces outils. Ils espèrent que personne ne s’en rendra compte.
Ce que cet embarras révèle réellement
L’instinct consistant à voir dans cette histoire un simple avertissement contre la négligence est compréhensible, mais il passe à côté de l’enjeu plus structurel. Le problème n’est pas qu’Oliver ait utilisé un outil d’IA pour l’aider à rédiger un discours. Les politiciens, les dirigeants et les professionnels de tous horizons ont toujours compté sur du personnel, des plumes et des conseillers pour préparer leurs communications publiques. L’utilisation d’une assistance n’est pas le problème.
Le problème réside dans l’absence d’une étape de révision entre le résultat de l’outil et le compte rendu public. Un LLM ne sait pas quand il est lu à voix haute dans un parlement. Il ne fait pas la différence entre le texte qui a sa place dans un discours et le méta-commentaire qu’il génère à propos de ce texte. Cette distinction relève de la responsabilité humaine, et dans ce cas précis, elle n’a pas été assumée.
C’est ce que la plupart des articles traitant des faux pas de l’IA ont tendance à sous-estimer. Dans ces moments-là, ce n’est pas la technologie qui échoue. C’est le flux de travail. Le modèle a produit un résultat qui comprenait à la fois un brouillon révisé et une explication de la révision, ce qui est exactement ce pour quoi ces modèles sont conçus. L’échec a consisté à traiter ce résultat comme définitif sans le lire assez attentivement pour démêler ce qui relevait de l’échafaudage de ce qui constituait le fond.
The Toronto Star a présenté l’incident comme le signe d’une fracture grandissante entre ceux qui délèguent leurs responsabilités à l’IA et ceux qui jugent cette délégation inacceptable. Ce cadrage traduit une réalité. À mesure que les outils d’IA s’intègrent davantage dans les flux de travail professionnels, la question du moment où le jugement humain réintervient dans le processus devient de plus en plus cruciale, et non l’inverse. Les outils peuvent gérer le volume, la rapidité et la rédaction. Ils ne peuvent pas gérer la responsabilité. Cette part incombe toujours à la personne qui prononce le discours.
En résumé
Un parlementaire canadien a lu à voix haute une instruction de prompt LLM lors d’un discours dans l’hémicycle, apparemment sans se rendre compte qu’elle s’y trouvait. L’incident s’est propagé sur les réseaux sociaux et a fait l’objet d’une couverture par la presse générale. Il s’agit d’un exemple parmi un phénomène plus large : des avocats, des journalistes, des universitaires et bien d’autres ont été confrontés à une exposition similaire lorsque du contenu généré par IA a été publié sans relecture suffisante. Une étude de Duke University a montré que les travailleurs ont tendance à masquer leur utilisation de l’IA parce que leurs pairs y voient un signe de paresse ou de caractère remplaçable. La véritable leçon n’est pas que les outils d’IA provoquent de l’embarras. Elle est que tout flux de travail utilisant ces outils exige une étape de révision humaine avant que la production ne soit rendue publique, et que cette étape ne peut pas être sautée.
D’après un reportage de Ars Technica.