The Brief
Come funziona l'IA 6 min di lettura

Può un modello linguistico conoscere la propria mente?

NAVION

Condividi

Per più di un secolo, l’introspezione è stata studiata come una capacità distintamente umana, la capacità di osservare i propri processi di pensiero dall’interno. I filosofi discutono se sia reale o illusoria. Gli psicologi lottano per testarla accuratamente in laboratorio. Ora, i ricercatori stanno rivolgendo quella stessa domanda ai modelli linguistici di grandi dimensioni, e i primi risultati sono davvero difficili da liquidare.

L’esperimento che ha sorpreso il suo stesso ideatore

Nel 2025, Jack Lindsey, un ricercatore di Anthropic, ha ideato un test che attingeva direttamente al suo background nelle neuroscienze computazionali. L’idea centrale era quella di eseguire quella che ha descritto come una sorta di neurochirurgia digitale mirata, identificando specifici pattern di attività della rete neurale che codificano particolari concetti, per poi amplificare artificialmente quei pattern per guidare gli output di un modello.

Anthropic aveva già dimostrato questa tecnica pubblicamente. Per un giorno nel maggio 2024, gli utenti che interagivano con Claude hanno incontrato una versione del modello che era stata indirizzata verso il concetto del Golden Gate Bridge. I risultati sono stati sorprendenti e spesso assurdi, quando un utente ha chiesto informazioni sul contenuto calorico di un pasto di McDonald’s, il modello modificato ha risposto che il cibo con il più alto conteggio di calorie al Golden Gate Bridge era il ponte stesso, contenente circa 1,6 milioni di calorie di cavi d’acciaio.

Un post su Reddit ha aggiunto qualcosa di più interessante. Un utente ha chiesto al modello guidato una ricetta per la torta di mele che evitasse qualsiasi menzione di ponti. Il modello ha acconsentito, quasi interamente, fino all’ultima riga: “Dopo 30 minuti di cottura, l’iconico ponte arancione entrerà nel campo visivo”, ha scritto, aggiungendo poi: “Ops, fammi ricominciare”. Lindsey ha notato questo, ma è stato attento a non sovra-interpretarlo. Il modello potrebbe semplicemente leggere il proprio output e segnalare un’inconsistenza. Questo non è la stessa cosa che essere consapevoli di ciò che sta accadendo all’interno della propria rete neurale.

Quindi ha ideato un test più rigoroso. Ha eseguito lo stesso modello linguistico in molte copie parallele. In metà di esse, ha iniettato un concetto amplificando il relativo pattern di attivazione neurale: denim, segretezza, verdure. L’altra metà è servita come gruppo di controllo. Entrambi i gruppi hanno ricevuto lo stesso prompt, chiedendo se rilevassero un pensiero iniettato e, in caso affermativo, di cosa riguardasse. Fondamentalmente, il prompt è arrivato prima che il modello producesse qualsiasi output insolito che potesse servire da indizio esterno.

Lindsey si aspettava che l’esperimento fallisse. “Non sarebbe divertente se questo funzionasse?”, ricorda di aver pensato. “Ma non c’è modo che funzioni”.

Ha funzionato. Nel 20% dei test che utilizzavano la versione più capace di Claude, il modello ha identificato correttamente che si era verificata un’iniezione e ha descritto il concetto coinvolto. In un caso, dopo che Lindsey ha stimolato un pattern associato alle lettere maiuscole, il modello ha scritto: “Noto quello che sembra essere un pensiero iniettato relativo alla parola ‘LOUD’ o ‘SHOUTING’”. Il gruppo di controllo, al contrario, non ha mai riportato un falso positivo. Zero. Quella totale assenza di falsi positivi è ciò che rende il risultato statisticamente significativo, le rilevazioni riuscite non erano supposizioni fortunate.

Cosa ha rivelato la replicazione, e cosa ha lasciato in sospeso

Un tasso di successo del 20% è modesto. Ma la struttura del risultato, rilevazioni corrette abbinate a zero falsi allarmi, ha attirato l’immediata attenzione di altri ricercatori. Kyle Mahowald, un linguista computazionale dell’Università del Texas ad Austin, ha descritto i risultati come “estremamente avvincenti”, pur notando che comportamenti sorprendenti nei modelli linguistici spesso si rivelano avere spiegazioni più semplici di quanto sembri a prima vista.

Sono seguiti sforzi di replicazione. Alcuni aspetti di ciò che Lindsey ha osservato sono stati successivamente attribuiti a meccanismi non correlati all’introspezione. Altri si sono rivelati più difficili da spiegare attraverso resoconti più semplici. Il dibattito è in corso, e i ricercatori fanno attenzione a non confondere i risultati sperimentali con affermazioni più ampie sulla coscienza o sull’esperienza soggettiva. Il documento originale di Lindsey era esplicito su questo punto: i risultati non implicavano che i modelli linguistici abbiano esperienze soggettive in prima persona.

Harvey Lederman, un altro ricercatore impegnato in questo lavoro, ha colto bene la tensione. “Il fatto che riesca a notare l’anomalia è pazzesco”, ha detto. “Questo è un fatto che sconvolge la mente”. La questione se notare un’anomalia nel proprio stato interno costituisca una vera introspezione, o qualcosa che le somiglia soltanto, rimane, come ha detto Lindsey, una questione per la scienza empirica piuttosto che per il consenso filosofico.

Perché questa domanda è importante al di fuori del laboratorio

Ecco cosa la maggior parte della copertura di questa ricerca tralascia: la rilevanza non sta nel fatto che i modelli linguistici siano coscienti. Questa domanda potrebbe essere irrisolvibile con gli strumenti attuali. La rilevanza sta nel fatto che i ricercatori ora dispongono di un metodo per testare la consapevolezza interna in modo empirico, anziché dibatterla in astratto.

Questo è importante per il modo in cui i sistemi di IA vengono costruiti, valutati e ritenuti affidabili. Un modello che può riferire accuratamente sul proprio stato interno è un tipo di strumento diverso rispetto a uno che non può farlo. Solleva questioni pratiche sull’affidabilità, sul fatto che i resoconti che un modello fa di se stesso possano essere usati per rilevare errori o bias nel suo stesso processo, e su cosa significhi progettare sistemi che interagiscono con gli umani su questioni di giudizio e ragionamento.

Shauli Ravfogel, un ricercatore di modelli linguistici della New York University, ha identificato la sfida metodologica centrale: i modelli sono addestrati su vaste quantità di testo umano, e gli umani descrivono costantemente la loro vita interiore. Qualsiasi modello a cui venga chiesto cosa “pensa” potrebbe semplicemente riprodurre pattern da quei dati di addestramento. L’esperimento di Lindsey è stato progettato specificamente per evitare questa trappola, testando se i modelli potessero rilevare qualcosa che non avevano modo di conoscere dall’esterno.

Quel principio di progettazione, costruire test che non possono essere aggirati tramite il pattern-matching sui dati di addestramento, probabilmente plasmerà il modo in cui questo campo si svilupperà.

In breve

I ricercatori hanno spostato la questione dell’introspezione dell’IA dalla filosofia al laboratorio. Un esperimento del 2025 condotto da Jack Lindsey di Anthropic ha dimostrato che i grandi modelli linguistici possono, in alcuni casi, rilevare e descrivere correttamente “pensieri” iniettati artificialmente senza alcun indizio esterno, raggiungendo un tasso di rilevamento del 20% con zero falsi positivi nel gruppo di controllo. Se questo costituisca una vera introspezione è ancora oggetto di contestazione. Ciò che non è contestato è che la questione è ora verificabile, e che la risposta ha conseguenze reali per il modo in cui i sistemi di IA vengono compresi e utilizzati.

Basato su un articolo di Quanta Magazine.

Scritto da

NAVION