I sistemi di intelligenza artificiale sono in grado di scrivere in modo fluido, ragionare su problemi complessi e generare risposte che spesso sembrano straordinariamente umane. Eppure, un recente studio pubblicato su PNAS Nexus suggerisce che una delle abilità cognitive più elementari che gli esseri umani esercitano quotidianamente – rimanere concentrati su un obiettivo quando le distrazioni competono per attirare l’attenzione – potrebbe esporre un divario fondamentale nel modo in cui funzionano effettivamente i sistemi di IA odierni.
La ricerca, guidata da Suketu Patel, ha utilizzato un esperimento psicologico vecchio di decenni per indagare questo divario. Ciò che è emerso merita di essere compreso attentamente, perché riformula una questione che spesso si perde nelle discussioni sulle capacità dell’IA: la differenza tra produrre output impressionanti e controllare realmente l’attenzione.
Un test progettato per mettere alla prova la concentrazione umana
Lo Stroop task è uno degli strumenti più noti della psicologia cognitiva. L’impostazione è semplice. Parole che indicano colori come “rosso”, “blu” o “verde” vengono visualizzate in inchiostro colorato. A volte la parola e il colore dell’inchiostro corrispondono. A volte sono in contrasto, come quando la parola “rosso” appare stampata in inchiostro blu. Il compito del partecipante è nominare il colore dell’inchiostro, non leggere la parola.
Sembra banale. Non lo è. Leggere le parole è un’abitudine automatica per la maggior parte delle persone, qualcosa che il cervello fa senza uno sforzo cosciente. Nominare il colore dell’inchiostro richiede di sopprimere attivamente tale abitudine, ed è proprio questo che rende il task utile per misurare il controllo esecutivo: i processi mentali che consentono alle persone di regolare l’attenzione, resistere agli impulsi concorrenti e rimanere orientate verso un obiettivo specifico.
Gli psicologi utilizzano lo Stroop task da decenni perché isola qualcosa di reale e misurabile su come il cervello gestisce il conflitto tra risposte automatiche e intenzioni deliberate. Il team di ricerca di Patel ha applicato la stessa logica ai grandi modelli linguistici.
Cosa è successo quando l’IA ha affrontato il test
I ricercatori hanno testato diversi sistemi di IA all’avanguardia, tra cui GPT-4o, GPT-5, Claude 3.5 Sonnet, Claude Opus 4.1 e Gemini 2.5, su liste in stile Stroop di varia lunghezza.
Con liste brevi di cinque parole di colore, i modelli hanno generalmente ottenuto buone prestazioni. GPT-4o ha raggiunto un’accuratezza del 91% con quella lunghezza. Lo scenario è cambiato con l’allungarsi delle liste. A dieci parole, l’accuratezza di GPT-4o è scesa al 57%. A quaranta parole, è crollata al 15%. Claude 3.5 Sonnet ha mantenuto prestazioni stabili con liste fino a venti parole, prima di subire un netto calo, scendendo al 24% di accuratezza a quaranta parole.
La situazione è peggiorata ulteriormente quando elementi corrispondenti e non corrispondenti apparivano insieme nella stessa lista. In queste condizioni, l’accuratezza per gli elementi non corrispondenti è scesa quasi a zero in alcuni casi. I modelli non stavano semplicemente commettendo errori casuali. Tendevano per default a leggere le parole anziché identificare i colori dell’inchiostro, che è esattamente il comportamento che il task è progettato per sopprimere.
Questo è ciò che sfugge alla maggior parte delle analisi sulle capacità dell’IA. Il fallimento non riguarda la conoscenza o la competenza linguistica. Questi modelli sanno cosa siano i colori dell’inchiostro. Comprendono le istruzioni. Il problema è che, man mano che il task diventa più impegnativo, perdono la capacità di sopprimere costantemente la risposta per cui sono stati addestrati più intensamente: elaborare e riprodurre testi.
Perché questo è importante al di là del laboratorio
Il contrasto con le prestazioni umane è istruttivo. Anche le persone trovano gli elementi non corrispondenti più difficili di quelli corrispondenti, e leggere le parole è un’abitudine più forte rispetto a nominare i colori. Eppure, la maggior parte degli individui riesce a mantenere un’elevata accuratezza e prestazioni stabili anche su lunghe liste di stimoli contrastanti. Il cervello umano possiede meccanismi per sostenere l’attenzione diretta a un obiettivo su sequenze prolungate, anche quando le risposte automatiche spingono in una direzione diversa.
I modelli di IA attuali, suggerisce lo studio, non sembrano disporre di un meccanismo equivalente. Le loro prestazioni non degradano gradualmente all’aumentare del carico cognitivo. Crollano.
Questa distinzione è importante per chiunque rifletta seriamente su come l’IA si inserisca nei flussi di lavoro reali. I task brevi, ben definiti e con pochi segnali contrastanti tendono ad andare bene. I task che richiedono un’attenzione prolungata su sequenze più lunghe, o che comportano il resistere alla risposta statisticamente più probabile a favore di un’istruzione specifica, sono quelli in cui l’architettura mostra i suoi limiti.
I risultati non suggeriscono che i sistemi di IA siano inutili o che le loro capacità siano illusorie. Suggeriscono qualcosa di più preciso: che i meccanismi alla base delle prestazioni dell’IA sono intrinsecamente diversi dai meccanismi alla base dell’attenzione umana, e che queste differenze diventano visibili in condizioni specifiche. Comprendere dove si presentano tali condizioni è più utile sia del liquidare la tecnologia, sia del sopravvalutare ciò che può fare.
Gli strumenti di IA funzionano al meglio quando potenziano il giudizio umano anziché sostituirlo, in particolare nei contesti in cui una concentrazione prolungata, la resistenza alle distrazioni e la costante adesione a un obiettivo specifico nel tempo sono ciò che il task effettivamente richiede.
In breve
Un team di ricerca guidato da Suketu Patel ha utilizzato lo Stroop task, un classico esperimento di psicologia che misura l’attenzione e il controllo esecutivo, per testare i principali modelli di IA, tra cui GPT-4o, Claude 3.5 Sonnet e Gemini 2.5. Le prestazioni hanno tenuto su liste brevi, ma sono crollate con l’allungarsi delle liste, con GPT-4o che è sceso dal 91% di accuratezza con cinque parole al 15% con quaranta. I modelli sono ricaduti sempre più spesso nella lettura delle parole piuttosto che seguire l’istruzione di nominare i colori dell’inchiostro. Gli esseri umani, pur affrontando lo stesso bias automatico verso la lettura, mantengono prestazioni stabili nelle stesse condizioni. Lo studio evidenzia una reale differenza architetturale tra l’attenzione umana e il modo in cui i modelli linguistici di grandi dimensioni attuali elaborano le informazioni, una differenza che diventa rilevante in qualsiasi task che richieda una concentrazione prolungata e orientata a un obiettivo su sequenze estese.
Basato su un articolo di ScienceDaily AI.