Un celebre romanzo di un autore canadese-haitiano è stato escluso dalla lista dei candidati del più prestigioso premio letterario francese, il Prix Goncourt, in seguito ad accuse secondo cui sarebbe stato generato in gran parte dall’intelligenza artificiale. Il caso coinvolge un’accusa anonima sui social media, un software di rilevamento contestato, una separata accusa di plagio e uno scrittore che nega tutto. Ciò che rivela va ben oltre un singolo libro o un singolo premio.
Come un Post Anonimo ha Sconvolto una Carriera Letteraria
Il romanzo di Thélyson Orélien C’était ça ou mourir aveva già ottenuto un notevole successo prima che la polemica iniziasse. Pubblicato in Francia da Grasset in agosto, il libro ha venduto circa 35.000 copie e ha vinto il Prix du roman Fnac. I diritti di traduzione erano stati venduti in più di 20 paesi. Il romanzo racconta la storia di un insegnante di storia e geografia che fugge dalla violenza delle gang ad Haiti e viaggia attraverso 12 paesi prima di raggiungere il Canada. È scritto in prima persona, in un registro lirico che Orélien, 38 anni, descrive come radicato nelle tradizioni linguistiche haitiane e caraibiche.
Il 21 settembre, lo stesso giorno in cui il libro ha vinto il premio Fnac, un account anonimo su X chiamato “Balance ton Claude” (un riferimento al modello IA di Anthropic, Claude) ha sostenuto di aver passato il testo attraverso uno strumento di rilevamento IA chiamato Pangram e di aver scoperto che era “quasi interamente” scritto dall’intelligenza artificiale. L’accusa si è diffusa rapidamente. L’autore è stato successivamente identificato come Samuel Fitoussi, un editorialista del quotidiano francese di centro-destra Le Figaro e autore di un saggio contro quello che ha definito “wokeismo” nel cinema e nella televisione. Sul proprio account, Fitoussi ha dichiarato che la sua preoccupazione non era l’ostilità specifica verso Orélien, ma il timore che l’IA potesse causare “la scomparsa della lettura e della scrittura”.
Strumenti di Rilevamento, Accuse di Plagio e una Motivazione in Evoluzione
Ecco cosa la maggior parte della copertura di questa storia sminuisce: la sola accusa di rilevamento tramite IA non ha rimosso il libro dalla competizione. Philippe Claudel, presidente dell’Académie Goncourt, aveva inizialmente esortato alla cautela riguardo alle affermazioni sull’IA. I media francesi hanno testato altri programmi di rilevamento e hanno scoperto che diversi identificavano il romanzo come molto probabilmente scritto da un essere umano. Le domande sull’accuratezza di Pangram sono state sollevate pubblicamente. Il software di rilevamento, in altre parole, ha prodotto risultati contraddittori a seconda dello strumento utilizzato.
Ciò che sembra aver cambiato la posizione dell’accademia è stata una seconda e separata accusa: che Orélien avesse plagiato un racconto tratto dalla prefazione de Il mattino dei maghi, un libro del giornalista francese Louis Pauwels pubblicato originariamente nel 1960. Questa accusa di plagio è stata pubblicata dal quotidiano Libération. La dichiarazione formale dell’Académie Goncourt ha citato entrambi i problemi insieme, facendo riferimento a “plagi di cui il suo autore si è reso colpevole nel tempo” insieme alla conclusione, tratta da quelli che ha definito “ricercatori e giornalisti affidabili”, che il libro sia “con ogni probabilità in gran parte il prodotto dell’intelligenza artificiale”.
Orélien ha smentito l’accusa legata all’IA e l’ha definita motivata da ragioni razziali. Il suo editore canadese, Les Éditions du Boréal, ha dichiarato di poter “né confermare né smentire” le accuse in questa fase, condannando al contempo quelli che ha definito “messaggi di odio e attacchi personali”. Orélien, parlando a un festival letterario a Manosque, ha detto di aver percepito “il desiderio non solo di attaccare il libro, ma soprattutto la mia voce” e ha annunciato che si sarebbe astenuto da commenti pubblici fino a quando la situazione non si fosse calmata.
Cosa Espone Questo Caso sull’IA, sulla Paternità Artistica e sulla Pressione Istituzionale
Il problema più profondo qui non è se questo particolare romanzo sia stato scritto dall’IA. È che attualmente non esiste alcun metodo affidabile per rispondere a questa domanda con certezza, e le istituzioni sono costrette a prendere decisioni importanti in assenza di tale certezza.
Il rilevamento di testi generati dall’IA è un problema sinceramente irrisolto. Gli strumenti addestrati per identificare il testo generato dalle macchine producono risultati incoerenti su diversi software, ed è noto che segnalano determinati stili di scrittura, tra cui una prosa non madrelingua o stilisticamente distintiva, a tassi più elevati rispetto ad altri. Questa non è una nota a piè di pagina tecnica di poco conto. Significa che un’accusa, anche anonima, può ora avere un peso istituzionale che supera le prove a suo sostegno.
La decisione dell’Académie Goncourt è stata presentata come la protezione dell’integrità di un premio il cui scopo è onorare la letteratura “scritta da donne e uomini”. Tale impostazione è comprensibile. I premi letterari dipendono dal presupposto della paternità umana. Ma il meccanismo che ha innescato la revisione è stato un post anonimo sui social media che citava un singolo strumento di rilevamento contestato. L’accusa di plagio ha aggiunto una dimensione separata e più concreta, ma i due problemi si sono intrecciati nel discorso pubblico in modi che li hanno resi difficili da districare.
Questo ha importanza ben oltre la letteratura. In qualsiasi campo in cui i contenuti generati dall’IA siano possibili ma non sempre rilevabili, il divario tra accusa e prova diventa uno spazio in cui le reputazioni possono essere danneggiate prima che vengano stabilite le prove. Gli strumenti di rilevamento non hanno tenuto il passo con gli strumenti di generazione.
In Breve
Un’accusa anonima sui social media, amplificata da un software di rilevamento IA contestato e aggravata da una separata accusa di plagio, è stata sufficiente per rimuovere un romanzo di successo commerciale e riconosciuto dalla critica da una delle liste di libri candidati più prestigiose del mondo. Il caso non dimostra che il libro sia stato generato dall’IA. Dimostra che l’assenza di metodi di rilevamento affidabili crea una vulnerabilità che istituzioni, premi e singoli autori non sono ancora attrezzati ad affrontare.
Basato su un articolo di The Guardian - Technology.