Per 75 anni, la ricerca sull’intelligenza artificiale si è basata su due idee introdotte da Alan Turing nel 1950. Un noto informatico sostiene ora che quelle idee erano errate, e che le conseguenze del seguirle hanno plasmato lo sviluppo dell’IA in modi che potrebbero essere fondamentalmente limitanti. Non si tratta di una critica tecnica di poco conto. È una sfida alle fondamenta concettuali dell’intero settore.
Peter J. Denning, l’informatico autore di questa tesi, espone il suo ragionamento in un libro intitolato Turing’s Mistake: Escaping the Yoke of Unintelligent Machines. La sua affermazione centrale è che due ipotesi formulate da Turing non sono mai state messe seriamente in discussione, e che entrambe sono errate.
La prima ipotesi: l’intelligenza può esistere indipendentemente da un corpo fisico, e può quindi essere ricreata nel software. La seconda: una macchina può dimostrare intelligenza imitando in modo convincente un essere umano in una conversazione, il che è diventato la base del celebre test di Turing. La posizione di Denning è diretta. Accettare queste affermazioni senza spirito critico, scrive, ha portato a quello che definisce “il pasticcio dell’IA in cui ci troviamo oggi.”
La Conoscenza che Non Si Può Digitare in un Computer
Il fulcro dell’argomentazione di Denning è la conoscenza tacita. Si tratta della vasta categoria della comprensione umana che resiste all’essere messa in parole o codificata in dati. Non è ignoranza. È il contrario: la competenza profonda e incarnata che permette a una persona di orientarsi nel mondo senza riuscire a spiegare pienamente come.
Denning individua cinque grandi categorie di conoscenza tacita che il machine learning non è in grado di acquisire: il senso comune, le interazioni quotidiane con le persone e l’ambiente fisico, le emozioni e la percezione, le abilità pratiche di esecuzione e la conoscenza sociale e storica incorporata nella cultura.
La difficoltà di codificare il senso comune non è nuova. Uno dei tentativi più prolungati è stato il progetto Cyc, avviato da Douglas Lenat negli anni Ottanta. Il suo obiettivo era costruire un database esaustivo di fatti di senso comune. Dopo quattro decenni di lavoro, il progetto conteneva circa 25 milioni di voci. Si tratta di un’impresa enorme per qualsiasi parametro. Eppure la valutazione di Denning è impietosa: nemmeno una scala di sforzo simile ha potuto produrre un sistema dotato di una comprensione genuinamente esperta. Il progetto, sostiene, ha in realtà confermato il problema anziché risolverlo. Gran parte di ciò che rende capaci gli esperti umani semplicemente non può essere articolato sotto forma di proposizioni.
Le abilità pratiche presentano una versione ancora più netta di questo problema. Denning traccia una distinzione tra “sapere cosa” e “sapere come”. Le descrizioni di risultati abili possono essere archiviate come dati. La conoscenza incarnata necessaria per eseguire concretamente un’abilità non può esserlo. Un violinista virtuoso può produrre musica straordinaria, ma non riesce a spiegare pienamente a uno studente come replicarla. Anche se un robot potesse osservare e imitare un musicista esperto, non avrebbe accesso a ciò che il musicista prova mentre suona, né a ciò che il pubblico prova mentre ascolta. L’esecuzione e l’esperienza dell’esecuzione sono inseparabili dall’avere un corpo biologico.
Perché Aumentare la Scala Non Risolve il Problema
È qui che l’argomentazione di Denning diventa più direttamente rilevante per il momento attuale nello sviluppo dell’IA. I large language model come ChatGPT, Claude e Gemini sono capaci di produrre testi fluenti e contestualmente appropriati. Sono anche, secondo Denning, impegnati in qualcosa di fondamentalmente diverso dalla comprensione.
La sua formulazione è precisa: le parole sono rappresentazioni simboliche di significati, non i significati stessi. Gli LLM manipolano parole. Non sanno cosa significano le parole. Dietro ogni parola, sostiene Denning, c’è un pozzo profondo di conoscenza tacita che le conferisce significato, e quel pozzo è inaccessibile a qualsiasi sistema che operi puramente su simboli codificati.
Il contesto aggrava il problema. L’intelligenza umana dipende da una rete infinita e frattale di conversazioni precedenti, assunzioni culturali e storia sociale. Riconoscere il sarcasmo, sapere quando essere diplomatici, interpretare una richiesta ambigua: tutto ciò richiede l’accesso a strati di contesto che non sono mai del tutto espliciti. La cultura, nella formulazione di Denning, comprende valori, norme, giudizi, storia, comunità, stati d’animo e relazioni che implicano potere e cura. Aumentare la scala delle reti neurali con più dati e più parametri non dà a un sistema accesso a nulla di tutto ciò. Gli fornisce più pattern sullo stesso tipo di simboli codificati.
Cosa Significa Questo al di Là del Dibattito Tecnico
Ecco cosa manca alla maggior parte dei resoconti sui dibattiti sulle capacità dell’IA: la posta in gioco non riguarda principalmente se l’IA supererà il test di Turing. Riguarda la sicurezza e l’allineamento in un mondo in cui i sistemi di IA operano già autonomamente su larga scala.
La preoccupazione di Denning non è lo scenario fantascentifico di macchine superintelligenti che prendono il controllo. La sua preoccupazione è più concreta e, si potrebbe dire, più urgente. Le reti agentiche di macchine svilupperanno probabilmente forme proprie di intelligenza artificiale che, pur non raggiungendo l’intelligenza generale umana, sono comunque capaci di creare seri problemi. Se le macchine non riescono a interpretare il contesto non detto dietro le intenzioni umane, allineare in modo affidabile i sistemi di IA avanzati con gli obiettivi umani potrebbe rivelarsi impossibile. Gli esseri umani non riescono a leggere la conoscenza tacita delle macchine. Le macchine non riescono a leggere la conoscenza tacita degli esseri umani. Denning descrive questo come “alieni separati da un abisso invalicabile.”
L’implicazione pratica è significativa. I sistemi di IA possono essere potenti, utili e genuinamente preziosi senza essere intelligenti nel modo in cui lo sono gli esseri umani. Trattarli come se lo fossero, o lavorare verso una versione di essi che lo sia, potrebbe essere del tutto la direzione sbagliata.
In Breve
Le due ipotesi fondamentali di Turing — che l’intelligenza sia indipendente dal substrato e che l’imitazione equivalga all’intelligenza — hanno guidato la ricerca sull’IA per 75 anni. Denning sostiene che entrambe siano errate. L’ostacolo centrale è la conoscenza tacita: la comprensione incarnata, contestuale e culturale che gli esseri umani possiedono ma non riescono ad articolare pienamente, e che nessuna quantità di dati o scala computazionale può codificare. Questo non significa che l’IA sia inutile. Significa che il settore potrebbe aver ottimizzato per l’obiettivo sbagliato, e che i rischi del continuare a farlo sono più pratici che teorici.
Basato su un articolo di ScienceDaily AI.