Un nuovo report indipendente ha portato alla luce prove del fatto che i sistemi di IA stanno accelerando in modo significativo il loro stesso sviluppo, non come uno scenario futuro e teorico, ma come qualcosa di già misurabile all’interno di uno dei principali laboratori di IA al mondo. Le scoperte arrivano da METR, un’organizzazione di ricerca sulla sicurezza dell’IA che ha trascorso undici settimane a indagare sui processi di ricerca e sviluppo di Anthropic. Ciò che il report mostra, e ciò che deliberatamente non può mostrare, è ugualmente importante.
Due anni di progresso in uno: la scoperta dell’accelerazione
Il dato principale dell’indagine di METR è sorprendente. I modelli di Anthropic stanno migliorando circa due volte più velocemente rispetto a un anno fa. I ricercatori di METR hanno descritto questo fenomeno come il compimento di “circa due anni di progresso storico nell’ultimo anno”, basandosi sui punteggi dei benchmark.
Ciò che rende questa scoperta significativa è la spiegazione che vi sta dietro. Storicamente, il progresso dell’IA è stato guidato in gran parte dal dimensionamento, ovvero dall’impiego di una maggiore potenza di calcolo nell’addestramento. I ricercatori di METR hanno affermato di essere certi che questo non sia il fattore principale in questo caso. Da ottobre, la maggior parte dell’accelerazione è attribuita all’IA stessa, e tale contributo è cresciuto nel tempo.
Le prove a supporto di ciò derivano in parte da sondaggi interni. I dipendenti di Anthropic hanno dichiarato di essere circa 12 volte più produttivi utilizzando il modello interno più capace dell’azienda rispetto a quando lavoravano senza l’assistenza dell’IA. Tale cifra era circa il doppio rispetto a quanto dichiarato dal personale pochi mesi prima, quando utilizzava un precedente modello interno chiamato Mythos 5. Si tratta di numeri riferiti direttamente dai dipendenti, che comportano limiti intrinseci, ma la direzione e la magnitudine del cambiamento sono notevoli.
Per ora, la valutazione di METR è che la maggior parte di questa accelerazione derivi dall’IA che assiste i ricercatori umani piuttosto che dall’IA che opera in modo indipendente. I ricercatori non hanno trovato chiari segni di rendimenti decrescenti o colli di bottiglia evidenti. Hanno anche avvertito che “ci sono alcuni segnali che indicano che i contributi completamente autonomi svolgeranno un ruolo maggiore a breve”.
Il problema degli omissis: ciò che il pubblico non può vedere
Anthropic ha concesso a METR l’accesso a ricerche riservate, dati sulle prestazioni dei modelli e interviste ai dipendenti. METR ha riconosciuto che ciò ha superato quanto inizialmente concordato. Tale trasparenza, tuttavia, presenta un asterisco significativo.
Anthropic si è riservata il diritto di oscurare parti del report finale prima della pubblicazione, e ha esercitato tale diritto in modo estensivo. METR ha presentato un report di circa 100 pagine. In un post su X, METR ha dichiarato che Anthropic ha rimosso “la maggior parte delle prove che trovavamo più informative”. I ricercatori hanno notato che gran parte del materiale oscurato avrebbe potuto avere “molteplici interpretazioni plausibili”, il che significa che il pubblico non può valutare le prove o le incertezze che le circondano. Come recita il report, il pubblico si ritrova a fare affidamento sul giudizio di METR “molto più di quanto sarebbe ideale, visto il peso delle questioni qui affrontate”.
Il cofondatore di Anthropic, Sam McCandlish, ha riconosciuto i tagli in un pubblico post, inquadrandoli come un compromesso deliberato. La sua motivazione dichiarata: diffondere i driver specifici dell’accelerazione sarebbe commercialmente sensibile e potrebbe fornire ai concorrenti una tabella di marcia per muoversi più rapidamente, cosa che, a suo dire, peggiorerebbe i rischi anziché ridurli. Anthropic ha dichiarato di voler pubblicare un proprio report sui progressi dell’IA nelle prossime settimane.
La questione degli omissis è importante anche al di là di questo specifico report. Le valutazioni indipendenti hanno un peso reputazionale per le aziende che le commissionano o le autorizzano. Quando tali valutazioni vengono sostanzialmente oscurate dal soggetto dell’indagine, l’indipendenza della scoperta diventa più difficile da valutare. La stessa METR ha evidenziato direttamente questa tensione.
Cosa significa davvero il miglioramento ricorsivo per tutti
Questo è l’aspetto che la maggior parte della copertura mediatica del report sottovaluta. Il concetto al centro delle scoperte di METR è il miglioramento ricorsivo, ovvero l’idea che i sistemi di IA possano sviluppare autonomamente sistemi successivi sempre più capaci, senza un significativo intervento umano, comprimendo potenzialmente decenni di cambiamento tecnologico in anni o persino mesi.
Fino a poco tempo fa, si trattava perlopiù di una preoccupazione teorica. Il report di METR fornisce prove concrete, sebbene parziali, che le prime fasi di questa dinamica sono già in corso all’interno di almeno un importante laboratorio di IA. Anthropic non è sola: OpenAI ha dichiarato a settembre di “stare facendo grandi progressi” verso la costruzione di un ricercatore di IA capace di far progredire la ricerca sul deep learning e sull’allineamento entro marzo 2028.
L’implicazione più ampia riguarda il ritmo del cambiamento rispetto al ritmo del lavoro sulla sicurezza. Se i sistemi di IA stanno accelerando il proprio sviluppo più rapidamente di quanto i ricercatori riescano a valutarne i rischi, il divario tra capacità e comprensione si allarga. METR non ha riscontrato alcun collo di bottiglia osservabile che possa rallentare naturalmente questo processo.
Esiste anche una tensione strutturale che vale la pena menzionare. Anthropic è stata tra i sostenitori più vocali dello sviluppo responsabile dell’IA, e il suo CEO Dario Amodei ha pubblicamente esortato i laboratori a rallentare. Il report di METR descrive un’azienda che, allo stesso tempo, sta usando l’IA per muoversi più velocemente che mai. Questa non è necessariamente ipocrisia: potrebbe riflettere la convinzione genuina che trovarsi sulla frontiera sia più sicuro che cederla. Ma si tratta di una tensione che il pubblico merita di comprendere chiaramente.
In sintesi
L’IA sta già accelerando il proprio sviluppo in modi misurabili, non solo in teoria. L’indagine di undici settimane condotta da METR all’interno di Anthropic ha scoperto che i modelli dell’azienda stanno migliorando a una velocità circa doppia rispetto a un anno fa, con l’IA stessa identificata come il motore principale. Le prove complete a supporto di tale scoperta sono state in gran parte oscurate. Ciò che rimane visibile è sufficiente a sollevare seri interrogativi sul fatto che i quadri di sicurezza del settore stiano tenendo il passo con la tecnologia che dovrebbero governare.
Basato su un articolo di The Verge.