The Brief
Società ed etica 5 min di lettura

L'aiuto che fa male: l'IA e l'erosione della perseveranza

NAVION

Condividi

Un breve test che coinvolge frazioni e comprensione del testo ha prodotto una delle scoperte più inquietanti nella recente ricerca sull’IA. Non perché riveli qualcosa di drammatico, ma perché rivela qualcosa di silenzioso: una breve esposizione a un assistente IA sembra ridurre la propensione di una persona a continuare a provare una volta che quell’assistente non c’è più.

Cosa ha dimostrato realmente l’esperimento

I ricercatori guidati da Brian Christian dell’Università della California a Berkeley hanno ideato uno studio controllato e lo hanno presentato alla terza conferenza annuale Conference on Language Modeling. L’impostazione era semplice. Ai partecipanti adulti è stato chiesto di risolvere equazioni con le frazioni. Un gruppo ha avuto accesso a una finestra di ChatGPT per tutto il tempo, mentre l’altro ha lavorato senza assistenza. Poi, a metà del test, il chatbot è stato rimosso del tutto per il primo gruppo.

I risultati sono stati chiari. Mentre ChatGPT era disponibile, il gruppo che lo ha utilizzato ha risolto più problemi e saltato meno domande rispetto al gruppo di controllo. Quella parte era prevedibile. Il momento rivelatore è arrivato dopo la scomparsa dello strumento. I due gruppi si sono sostanzialmente scambiati di posto: quelli che si erano affidati all’IA hanno iniziato a saltare più domande e a risolverne meno, mentre il gruppo che aveva lavorato da solo ha mantenuto le sue prestazioni.

In seguito i ricercatori hanno ripetuto l’esperimento utilizzando domande di comprensione del testo tratte dagli esami SAT. È emerso lo stesso schema. La precisione e la perseveranza sono calate nel gruppo assistito dall’IA una volta rimosso lo strumento.

Vale la pena notare il riassunto che Christian fa della scoperta. L’ha descritta come una situazione in cui i sistemi costruiti per essere utili finiscono per esserlo “in modi che sono piuttosto inutili”. Questa tensione si trova al centro di ciò a cui punta questa ricerca.

Il problema della “rana bollita” nell’istruzione

Le implicazioni dello studio sono più evidenti se applicate ai giovani studenti, e i ricercatori stessi usano una frase specifica per descrivere il rischio: il problema della “rana bollita”. Il timore non è che una singola sessione di test provochi danni duraturi. È che un uso prolungato dell’IA, nel corso di mesi e anni, possa gradualmente erodere la motivazione e la perseveranza che rendono possibile l’apprendimento a lungo termine. Nel momento in cui quegli effetti diventano visibili, avvertono i ricercatori, potrebbero essere difficili da invertire.

Questo inquadramento si collega direttamente a una decisione politica già in atto. Le scuole di New York City hanno limitato l’accesso all’IA a circa 600.000 studenti, dalla scuola dell’infanzia fino all’ottavo anno. La motivazione offerta dal cancelliere scolastico Kamar Samuels è stata esplicita: i bambini imparano meglio attraverso lo sforzo produttivo, commettendo errori e riprovando. Nessuno strumento IA, secondo lui, può replicare quel processo.

Ciò che lo studio di Berkeley aggiunge a tale argomento è un peso empirico. La preoccupazione non è più puramente filosofica. Anche in brevi sessioni di test misurate in minuti, è apparso lo schema di ridotta perseveranza. La domanda sollevata dalla ricerca non è se l’IA sia utile. Lo è chiaramente, almeno sul momento. La domanda è cosa accade alle abitudini cognitive che si formano attraverso la difficoltà, la ripetizione e il fallimento, quando quelle esperienze vengono sistematicamente aggirate.

Perché questo è importante oltre l’aula scolastica

Lo studio si concentra sugli studenti e sulle condizioni dei test, ma le implicazioni si estendono oltre. I ricercatori stessi vi accennano quando sollevano la questione degli agenti IA progettati per eliminare l’attrito dai compiti quotidiani, non solo quelli accademici. Se lo sforzo produttivo che costruisce la perseveranza è prezioso nell’apprendimento, è ragionevole chiedersi se sia prezioso anche nella risoluzione di problemi professionali, nel lavoro creativo e nel processo decisionale in condizioni di incertezza.

Questo è ciò che la maggior parte della copertura mediatica sulle capacità dell’IA tende a tralasciare. La conversazione sugli strumenti IA si concentra quasi interamente sulla qualità dell’output: il modello fornisce una risposta corretta, scrive un paragrafo coerente, risolve l’equazione. Lo studio di Berkeley sposta il quadro. Chiede cosa accade alla persona che utilizza lo strumento, non solo sul momento, ma dopo. Le prestazioni durante i compiti assistiti dall’IA apparivano migliori. Le prestazioni dopo la rimozione dello strumento apparivano peggiori.

Questa asimmetria è importante per chiunque rifletta su come l’IA si inserisca nei flussi di lavoro, nei sistemi educativi o nelle abitudini individuali. Uno strumento che migliora l’output a breve termine riducendo al contempo la capacità sottostante che genera quell’output non è semplicemente vantaggioso. È un compromesso, e tende a rimanere invisibile finché lo strumento non è più disponibile.

Lo studio non sostiene che l’assistenza dell’IA debba essere evitata. Sostiene che gli effetti di tale assistenza sulla cognizione umana meritino seria attenzione, e che tali effetti possano accumularsi in modi che sono lenti a comparire e difficili da annullare.

In breve

Uno studio controllato presentato alla Conference on Language Modeling ha scoperto che gli adulti che hanno utilizzato ChatGPT durante un test sono diventati meno perseveranti e meno accurati una volta rimosso lo strumento, rispetto a coloro che avevano lavorato senza di esso. L’effetto è comparso sia nei compiti di matematica che in quelli di comprensione del testo. I ricercatori descrivono il rischio per i giovani studenti come il problema della “rana bollita”: l’erosione graduale della motivazione e della perseveranza che guidano l’apprendimento, accumulandosi nel corso degli anni prima di diventare visibile. Il problema centrale non è se l’IA produca buoni output sul momento. È ciò che la ripetuta dipendenza da quegli output fa alla capacità umana che rimane quando lo strumento non c’è più.

Basato su un articolo di Nautilus.

Scritto da

NAVION