The Brief
Come funziona l'IA 5 min di lettura

La mossa 37 e il divario di ragionamento nella moderna IA

NAVION

Condividi

Nel marzo 2016, un programma per giocare a Go ha fatto una mossa così inaspettata che i commentatori hanno pensato a un errore. Non lo era. Quel singolo momento, ora noto come mossa 37, è diventato uno degli eventi più citati nella storia dell’IA. Quasi un decennio dopo, l’architettura che lo ha reso possibile è ampiamente assente dai sistemi di IA che le persone usano ogni giorno. Quel divario conta più di quanto la maggior parte degli articoli riconosca.

Cosa ha fatto davvero AlphaGo, e perché era diverso

Il Go non è gli scacchi. Quando Deep Blue ha sconfitto Garry Kasparov nel 1997, lo ha fatto valutando fino a 200 milioni di posizioni scacchistiche al secondo usando regole scritte dagli umani. Il Go opera su una scala di complessità completamente diversa: calcolare anche solo una frazione dei suoi possibili risultati richiederebbe a un supercomputer miliardi di anni. Per vincere, un programma non può semplicemente calcolare la sua strada in avanti. Deve valutare la tavola a colpo d’occhio e, occasionalmente, inventare mosse che nessun umano ha considerato.

AlphaGo ha risolto questo problema attraverso due componenti distinte che lavorano insieme. La prima era una rete di policy addestrata a prevedere cosa farebbe un forte giocatore umano. Quella rete ha valutato la mossa 37 come avente circa una probabilità su 10.000 di essere giocata da un esperto. La seconda componente era un meccanismo di ricerca che costruiva ed esplorava esplicitamente un albero di gioco con migliaia di rami, ciascuno rappresentante un diverso futuro possibile. È stata questa macchina di ricerca, non la rete intuitiva, a identificare la mossa 37 come la scelta giusta.

Questo si riflette in un quadro ben noto nella scienza comportamentale, associato a Daniel Kahneman, che distingue tra pensiero veloce e automatico e pensiero lento e deliberato. AlphaGo incarnava entrambi: le reti fornivano le intuizioni, la ricerca forniva il controllo. Nessuno dei due funzionava senza l’altro.

Cosa fanno invece i Large Language Models

I sistemi di IA dominanti oggi, i large language models, operano su un principio fondamentalmente diverso. Predicono il token successivo in una sequenza, ancora e ancora. Questo è veloce, associativo e notevolmente efficace nel completamento di pattern su una gamma enorme di argomenti. È, nei termini visti sopra, puro pensiero veloce.

Il settore ha riconosciuto presto che la sola fluidità non era sufficiente. La risposta è stata una tecnica chiamata chain of thought: invece di rispondere immediatamente, i modelli generano passaggi intermedi che scompongono un problema prima di impegnarsi in una risposta. I guadagni sono reali, in particolare nella matematica e nella programmazione. Ma i passaggi intermedi sono comunque prodotti dallo stesso processo di predizione del token successivo. Non esiste un meccanismo di ragionamento separato. La deliberazione è simulata, non strutturale.

Da ciò derivano tre difetti specifici. Primo, questi modelli non mantengono alcun record esplicito e ispezionabile di ciò che credono, di ciò di cui dubitano e di quali domande rimangono aperte. Non c’è alcun equivalente dell’albero di gioco di AlphaGo, nessuna struttura che si aggiorna man mano che arrivano nuove informazioni. Secondo, la conoscenza e il ragionamento sono fusi insieme all’interno dei pesi della rete neurale. Non c’è una netta separazione tra ciò che il sistema sa e come manipola tale conoscenza. Terzo, e forse più preoccupante, la ricerca ha dimostrato che le catene di ragionamento prodotte da questi modelli sono spesso costruite a posteriori. Il modello arriva a una risposta per una via e ne riporta una diversa.

Perché questo conta oltre i dettagli tecnici

In contesti a basso rischio, queste limitazioni sono gestibili. Un chatbot che occasionalmente confabula il suo ragionamento è un inconveniente. In medicina, ingegneria o ricerca scientifica, lo stesso fallimento è un tipo di problema diverso.

Quando un sistema commette un errore in un dominio ad alto rischio, la capacità di rintracciare quell’errore non è facoltativa. Il ragionamento era difettoso? Le prove erano non valide? Le ipotesi erano sbagliate? Un sistema senza uno stato epistemico persistente e ispezionabile non può rispondere a queste domande, perché non ne ha mai mantenuto uno. L’output esiste, il ragionamento che lo ha prodotto no, almeno non in alcuna forma che possa essere verificata.

L’autore dell’articolo originale, che ha lavorato su AlphaGo e ha recentemente lasciato Google DeepMind, sostiene che la strada da percorrere richiede la costruzione di sistemi che mantengono uno stato epistemico esplicito: un record strutturato di ciò che è deciso, di ciò che è incerto, di ciò che è stato escluso e di quali domande rimangono aperte. Il ragionamento, in questa visione, è una sequenza di mosse che aggiorna quello stato, guidata da un meccanismo di valutazione indipendente che accetta solo modifiche supportate da prove. L’analogia offerta è il metodo scientifico, applicato sistematicamente e su scala.

La scala da sola non risolve questo problema. Rendere un sistema a pensiero veloce più grande affina le sue intuizioni ma non lo rende deliberato. La mossa 37 non è stata il prodotto di una rete di policy più grande. È stata il prodotto di un sistema che deteneva una posizione, modellava possibili futuri e sceglieva la mossa che i suoi stessi istinti avrebbero respinto.

In breve

La famosa mossa di AlphaGo non era intuizione della macchina. Era ragionamento della macchina, costruito su un’architettura che l’IA di oggi in gran parte non usa. I large language models sono potenti motori di completamento di pattern, ma non mantengono credenze ispezionabili, non separano la conoscenza dall’inferenza e spesso ricostruiscono il loro ragionamento a posteriori. Per le applicazioni in cui la strada verso una conclusione conta tanto quanto la conclusione stessa, questa è una limitazione strutturale, non temporanea.

Basato su un articolo di MIT Technology Review.

Scritto da

NAVION