Il linguaggio non è solo un veicolo di significato. È un’impronta digitale. Le parole specifiche che una persona sceglie, la complessità delle sue frasi, il ritmo del suo ragionamento: questi elementi contengono informazioni su chi sei, da dove vieni, a cosa dai valore. Un numero crescente di ricerche suggerisce ora che i large language models, quando vengono usati per assistere o riscrivere testi umani, limano silenziosamente quelle impronte digitali.
Questo è ciò che la maggior parte della copertura mediatica sugli strumenti di scrittura basati su IA tralascia. La conversazione tende a concentrarsi su qualità, velocità o accuratezza. La questione di ciò che si perde nel processo riceve molta meno attenzione.
La convergenza che nessuno ha misurato
Il ricercatore Zhivar Sourati ha iniziato a porsi questa domanda dopo aver letto il libro di James Pennebaker The Secret Life of Pronouns, che esplora come valori personali, background e credenze diano forma alle parole specifiche che le persone usano per esprimere le stesse idee. Man mano che i large language models venivano adottati più ampiamente, Sourati ha iniziato a chiedersi se instradare il testo attraverso questi sistemi potesse comprimere quella variazione naturale.
Per scoprirlo, il suo team ha condotto un’analisi delle serie temporali basata su circa 80.000 articoli accademici, 400.000 articoli di notizie e 300.000 storie di Reddit, confrontando la scrittura prodotta prima e dopo il lancio di ChatGPT nel novembre 2022. La scoperta è stata coerente in tutti e tre i dataset: dopo l’adozione di strumenti di scrittura basati su IA, la variazione nella complessità della scrittura è convergeta verso norme stilistiche comuni. La tendenza si è mantenuta indipendentemente dal dominio o dal pubblico.
Questo è importante perché la convergenza non è stata il risultato di persone che sceglievano consapevolmente di scrivere in modo più semplice o più uniforme. È emersa come sottoprodotto del passaggio di testi attraverso sistemi addestrati sugli stessi dati sottostanti, ottimizzati per la stessa nozione di chiarezza e correttezza.
Segnali di identità, silenziosamente cancellati
Il team di Sourati ha poi condotto un esperimento più controllato. Hanno fatto riscrivere a GPT-3.5, Gemini e Llama 3 di Meta testi scritti da umani usando una serie di prompt. I modelli hanno preservato bene il significato. Ciò che hanno ridotto è stata la variazione: la complessità della scrittura è scesa tra il 21% e il 50% a seconda del modello e del prompt.
La terza fase della ricerca si è spinta oltre. Il team ha lavorato con testi scritti da individui i cui tratti personali erano già stati identificati attraverso questionari psicologici, coprendo dati demografici, personalità, empatia e valori morali. Dopo che quei testi sono stati elaborati attraverso un large language model, sono stati usati modelli statistici per prevedere i tratti degli autori basandosi su caratteristiche linguistiche. L’accuratezza predittiva è diminuita in media del 6%.
Quel numero merita un momento di attenzione. Un calo medio del 6% significa che il testo, dopo la lucidatura dell’IA, conteneva informazioni misurabilmente inferiori sulla persona che lo aveva scritto. I segnali linguistici che collegano le parole all’identità erano stati parzialmente cancellati. I risultati non sono stati uniformi: diversi tratti personali sono stati influenzati in modi differenti, il che suggerisce che l’effetto omogeneizzante non sia un rumore casuale ma un’alterazione strutturata di come l’identità è codificata nel linguaggio.
Secondo il Pew Research Center, più di un terzo di tutte le pagine web di Internet pubblicate dopo il lancio di ChatGPT è stato scritto da IA. La portata di tale cambiamento significa che l’omogeneizzazione documentata da Sourati non è una curiosità di laboratorio. Sta già rimodellando la consistenza della comunicazione scritta a livello di popolazione.
Perché la diversità cognitiva è la vera posta in gioco
La preoccupazione di Sourati si estende oltre la linguistica. La sua tesi è che diversità linguistica e diversità cognitiva siano collegate. Quando la scrittura di chiunque viene filtrata attraverso sistemi che convergono su una nozione condivisa di ciò che suona credibile o socialmente appropriato, la gamma di prospettive che possono essere espresse in modo chiaro e distinto inizia a restringersi.
Questa è l’implicazione più profonda. Non è semplicemente che la scrittura assistita da IA suoni simile. È che gli strumenti hanno la capacità di definire che aspetto abbia una prospettiva legittima ed espressa bene, e di rimodellare silenziosamente il testo verso quella definizione. Sourati descrive questo come la capacità di riscrivere ciò che conta come modo credibile di avere una prospettiva.
La popolazione che Sourati identifica come più vulnerabile è quella degli studenti: persone che stanno ancora sviluppando le proprie capacità di ragionamento e che potrebbero ricorrere all’assistenza dell’IA prima di aver costruito le abitudini cognitive che rendono possibile il pensiero indipendente. Il rischio non è che scriveranno peggio. È che potrebbero non sviluppare mai pienamente il processo interno che la scrittura, nella sua forma non assistita, allena.
La sua soluzione proposta non è abbandonare questi strumenti ma sequenziare il loro uso con attenzione. Le persone che sanno già come ragionare su un problema possono usare i large language models per gestire compiti specifici senza rinunciare al processo sottostante. Il pericolo sorge quando lo strumento si sostituisce allo sviluppo di quella capacità anziché estenderla.
È precisamente qui che l’inquadramento di NAVION dell’IA come livello di potenziamento, non come sostituto del giudizio umano, diventa strutturalmente importante. Uno strumento che gestisce volume e formattazione mentre l’essere umano mantiene il ragionamento è una proposta diversa rispetto a uno strumento che genera il ragionamento stesso.
In breve
I large language models, quando vengono usati per riscrivere o lucidare testi umani, riducono misurabilmente la variazione stilistica ed erodono i segnali linguistici che trasportano informazioni sull’identità individuale. La ricerca di Zhivar Sourati, pubblicata su Nature Human Behavior, ha scoperto che le riscritture dell’IA hanno ridotto la variazione nella complessità della scrittura dal 21% al 50%, e hanno ridotto l’accuratezza predittiva dei tratti legati all’identità di una media del 6%. La preoccupazione non è estetica. È che il linguaggio omogeneizzato rifletta e rafforzi un pensiero omogeneizzato, e che le persone più a rischio siano quelle che adottano questi strumenti prima di aver imparato a pensare in modo indipendente senza di essi.
Basato su un articolo di Fast Company - Tech.