Un legislatore canadese ha recentemente tenuto un discorso in aula che conteneva qualcosa che nessun discorso dovrebbe mai includere: un’istruzione da parte di un modello linguistico di IA su come riscrivere il proprio output. Il momento è stato imbarazzante, pubblico e ampiamente condiviso. Dice anche qualcosa che vale la pena comprendere su come i professionisti utilizzano gli strumenti di IA e su cosa succede quando tale uso va storto sotto gli occhi di tutti.
Un’istruzione di un prompt pronunciata come discorso ufficiale
Bill Oliver, membro dell’assemblea legislativa del New Brunswick e rappresentante del Progressive Conservative Party, stava parlando degli uffici di tutela dei cittadini e del divario tra le aspettative della popolazione e i reali poteri di tali uffici. Il contenuto del discorso era del tutto ordinario. Ciò che è seguito, invece, non lo era.
Dopo aver pronunciato una frase sui pericoli degli uffici di tutela, Oliver ha letto ad alta voce quella che sembrava essere una meta-istruzione di un LLM: una frase che indicava che quanto seguiva era “una versione più naturale e fluida” di una sezione, riscritta per sembrare un discorso legislativo anziché un elenco puntato. Questo è il tipo di testo che un LLM produce quando presenta una bozza revisionata insieme a una spiegazione di ciò che ha modificato e perché. Non è pensato per essere pronunciato. Si tratta di un’impalcatura, non del contenuto vero e proprio.
All’epoca il discorso è passato in gran parte inosservato. È stato solo quando il video ha iniziato a circolare su piattaforme come Reddit e Threads che il momento ha attirato un’attenzione più ampia. I media canadesi, tra cui la CBC e The Toronto Star, hanno ripreso la notizia e l’incidente è entrato nel dibattito pubblico generale.
Un modello ricorrente in diverse professioni
Oliver non è il primo politico a tenere un discorso scritto da qualcun altro, e quasi certamente non è il primo a utilizzare uno strumento di IA nel processo di stesura. Ciò che rende questo caso peculiare è la natura specifica dell’errore: non un fatto inventato, non una frase goffa, ma un’istruzione di output dell’LLM non modificata e letta ad alta voce come se facesse parte del discorso stesso. L’implicazione è che il testo sia stato utilizzato senza essere stato letto o compreso appieno prima di essere pronunciato.
Questo tipo di esposizione non riguarda solo la politica. Avvocati, autori, giornalisti e accademici hanno tutti dovuto affrontare critiche quando l’uso dei modelli linguistici è diventato evidente, in genere a causa di errori o allucinazioni apparsi in lavori presentati come scritti da esseri umani. Il filo conduttore non è l’uso dell’IA in sé, ma l’assenza di una revisione adeguata prima che il lavoro diventi pubblico.
Uno studio della Duke University citato nella fonte ha rilevato che i lavoratori tendono a nascondere l’uso dell’IA, in parte perché i colleghi percepiscono il lavoro assistito dall’IA come “pigro” o come un segno che la persona che lo svolge sia “sostituibile”. Questa scoperta aiuta a spiegare perché l’esposizione tenda a essere accidentale anziché dichiarata. Le persone non annunciano l’uso di questi strumenti. Sperano solo che nessuno se ne accorga.
Cosa rivela davvero questo imbarazzo
L’istinto di interpretare questa storia come un semplice monito sulla sbadataggine è comprensibile, ma perde di vista il punto più strutturale. Il problema non è che Oliver abbia usato uno strumento di IA per farsi aiutare a scrivere un discorso. Politici, dirigenti e professionisti di ogni tipo si sono sempre affidati a staff, speechwriter e consulenti per preparare le loro comunicazioni pubbliche. Il ricorso a un aiuto non è il problema.
Il problema è l’assenza di un livello di revisione tra l’output dello strumento e la trascrizione ufficiale. Un LLM non sa quando viene letto ad alta voce in un’assemblea legislativa. Non distingue tra il testo che appartiene a un discorso e il meta-commento che genera su quel testo. Questa distinzione è una responsabilità umana e, in questo caso, non è stata esercitata.
Questo è ciò che la maggior parte degli articoli sugli incidenti legati all’IA tende a sottovalutare. In questi momenti non è la tecnologia a fallire. È il flusso di lavoro. Il modello ha prodotto un output che includeva sia una bozza revisionata sia una spiegazione della revisione, che è esattamente ciò che tali modelli sono progettati per fare. L’errore è stato trattare quell’output come definitivo senza leggerlo con sufficiente attenzione da cogliere cosa fosse impalcatura e cosa fosse sostanza.
The Toronto Star ha inquadrato l’incidente come il segno di un crescente divario tra coloro che delegano le proprie responsabilità all’IA e coloro che ritengono esecrabile tale delega. Questa interpretazione coglie qualcosa di reale. Man mano che gli strumenti di IA si integrano sempre più nei flussi di lavoro professionali, la questione di dove il giudizio umano debba rientrare nel processo diventa sempre più determinante, non meno. Gli strumenti possono gestire volume, velocità e stesura. Non possono gestire la responsabilità. Quella parte spetta ancora alla persona che pronuncia il discorso.
In sintesi
Un legislatore canadese ha letto ad alta voce un’istruzione di un prompt di un LLM durante un discorso in aula, a quanto pare senza rendersi conto della sua presenza. L’incidente si è diffuso sui social media e ha attirato l’attenzione della stampa generale. È un esempio di un fenomeno più ampio: avvocati, giornalisti, accademici e altri hanno affrontato una simile esposizione quando contenuti generati dall’IA sono stati pubblicati senza un’adeguata revisione. Uno studio della Duke University ha rilevato che i lavoratori tendono a nascondere l’uso dell’IA perché i colleghi lo considerano un segno di pigrizia o di sostituibilità. La vera lezione non è che gli strumenti di IA causino imbarazzo, ma che qualsiasi flusso di lavoro che utilizzi questi strumenti richiede una fase di revisione umana prima che l’output diventi pubblico, e tale fase non può essere saltata.
Basato su un articolo di Ars Technica.