I dibattiti sulla regolamentazione dell’IA tendono a concentrarsi su una domanda semplice: quale azienda dovrebbe essere ritenuta responsabile quando qualcosa va storto? Una recente analisi pubblicata sui Proceedings of the National Academy of Sciences suggerisce che questa impostazione sia completamente fuorviante. La vera domanda è in che modo una regola mirata a un’azienda modifichi il comportamento di ogni altra azienda nella catena. La risposta, a quanto pare, ha conseguenze che la maggior parte delle discussioni politiche non è ancora pronta ad affrontare.
La catena di approvvigionamento che la regolamentazione dell’IA ignora
La maggior parte dei prodotti di IA non è creata da una singola azienda. Vengono assemblati attraverso diversi livelli. Un modello general-purpose, prodotto da un grande sviluppatore di IA come OpenAI o Anthropic, funge da base. Una seconda azienda adatta poi quel modello a un uso specifico, come riassumere i referti clinici dei medici o alimentare un chatbot per il servizio clienti. Ogni livello comporta le proprie responsabilità in materia di sicurezza: il creatore del modello si occupa dell’addestramento, della valutazione e della documentazione; l’azienda a valle si occupa della validazione clinica, del fine-tuning e del monitoraggio degli errori.
Questa struttura a livelli è esattamente ciò di cui la maggior parte delle normative non tiene conto. L’AI Act dell’Unione Europea, che la Commissione Europea si sta preparando a far rispettare, impone requisiti di sicurezza e trasparenza diversi ai fornitori di modelli general-purpose e alle aziende che costruiscono applicazioni basate su di essi. Questa distinzione è un passo avanti. Ma la domanda cruciale non è solo chi viene regolamentato. È come un requisito che prende di mira un livello ridefinisca gli incentivi di tutti gli altri.
Come regole deboli possono rendere i prodotti meno sicuri
Benjamin Laufer, ricercatore applicato senior presso Microsoft e prossimo professore assistente presso la University of Washington Information School, ha esplorato questo meccanismo insieme ai coautori Jon Kleinberg e Hoda Heidari. Il loro modello di teoria dei giochi ha esaminato cosa succede quando un’autorità di regolamentazione stabilisce un requisito di sicurezza minimo per un’azienda che sviluppa applicazioni a valle, lasciando invece privo di vincoli il creatore del modello a monte.
La scoperta è controintuitiva. Una soglia di sicurezza debole, definita come un requisito pari o inferiore al livello che le aziende avrebbero raggiunto da sole, può effettivamente ridurre la sicurezza complessiva del prodotto. L’azienda a valle si conforma, aumentando il proprio investimento in sicurezza. Ma il creatore del modello, sapendo che esiste un controllo di sicurezza più a valle nella catena, riduce il proprio investimento in misura superiore a quanto aggiunto dall’azienda a valle. Il risultato netto è un prodotto meno sicuro, nonostante la presenza di una normativa.
L’analogia usata da Laufer è istruttoria. Immagina un regime di sicurezza alimentare che imponga ai ristoranti di ispezionare ogni ingrediente che servono, senza imporre alcun obbligo ai grandi fornitori. I ristoranti si assumono una responsabilità reale e la regola non è irragionevole in linea di principio. Ma i fornitori, anticipando che i ristoranti individueranno eventuali problemi, hanno meno motivi per mantenere i propri controlli di qualità. La stessa logica si applica alle catene di sviluppo dell’IA.
La scoperta più costruttiva è il rovescio della medaglia. Quando requisiti adeguatamente calibrati si applicano sia al creatore del modello a monte sia all’azienda di applicazioni a valle, la regolamentazione può fungere da meccanismo di coordinamento. Ciascuna azienda investe in sicurezza con la certezza che l’altra debba fare lo stesso. In alcuni scenari modellati dai ricercatori, questa duplice responsabilità ha portato a una maggiore sicurezza e a prestazioni migliori per i consumatori, lasciando entrambe le aziende in una situazione finanziaria migliore.
Perché questo è importante al di là del dibattito normativo
Questo è ciò che la maggior parte della copertura mediatica sulla regolamentazione dell’IA tralascia. La conversazione tende a trattare la sicurezza come una quantità fissa che viene assegnata a chiunque si trovi più vicino all’utente finale. Il quadro di Laufer rivela che la sicurezza non è affatto una quantità fissa. È una variabile strategica e le regole che governano un attore cambiano il comportamento di ogni altro attore.
Le implicazioni vanno oltre ogni singola legge o giurisdizione. A giugno, il governo degli Stati Uniti ha imposto ad Anthropic di limitare l’accesso ai suoi due modelli più recenti ai cittadini stranieri, citando preoccupazioni di sicurezza nazionale. Non potendo verificare la nazionalità in tempo reale, Anthropic ha temporaneamente revocato l’accesso a tutti gli utenti. Poco dopo, l’azienda cinese Moonshot AI ha rilasciato il suo modello Kimi K3 e pubblicato i pesi completi del modello. Questi episodi illustrano le pressioni politiche che plasmano la regolamentazione dell’IA, ma sottolineano anche la posta in gioco. Quando i governi intervengono a livello di modello, le aziende a valle che costruiscono su quei modelli affrontano interruzioni che non hanno causato e che non possono controllare pienamente.
Man mano che i modelli di IA diventano più capaci e ampiamente distribuiti, il numero di tali interventi è destinato a crescere. Ognuno di essi metterà alla prova se i quadri normativi siano progettati per distribuire la responsabilità lungo l’intera catena di sviluppo o se permettano invece che la sicurezza venga silenziosamente scaricata finché qualcun altro non paga il conto.
La domanda che le autorità di regolamentazione devono porsi non è semplicemente chi sia nella posizione migliore per prevenire i danni. È chi deve contribuire, a ogni livello, per rendere il prodotto finale veramente più sicuro. Una regola che rischia di rispondere solo alla prima domanda potrebbe finire per non rispondere a nessuna delle due.
In breve
Regolamentare solo il livello a valle dello sviluppo dell’IA può essere controproducente. Quando i creatori di modelli sanno che le aziende di applicazioni devono rispettare gli standard di sicurezza, possono ridurre i propri investimenti in sicurezza più di quanto le aziende a valle aggiungano, lasciando il prodotto finale complessivamente meno sicuro. La ricerca pubblicata sui Proceedings of the National Academy of Sciences da Benjamin Laufer, Jon Kleinberg e Hoda Heidari mostra che regole bencalibrate applicate sia agli attori a monte sia a quelli a valle possono invece creare una responsabilità condivisa e risultati di sicurezza migliori. La lezione per i responsabili politici è strutturale: la sicurezza dell’IA non può essere esternalizzata al livello più vicino all’utente.
Basato su un articolo di Fast Company - Tech.