The Brief
IA quotidiana 5 min di lettura

I tribunali del lavoro sono aumentati del 39%: il costo nascosto dell'IA per i sistemi pubblici

NAVION

Condividi

La promessa era semplice: la intelligenza artificiale avrebbe aiutato i governi a fare di più con meno, tagliando gli arretrati burocratici e facendo risparmiare denaro pubblico. Ciò che sta emergendo invece è un quadro più complicato. L’IA non viene solo impiegata dalle istituzioni per snellire i servizi, ma viene usata dal pubblico per interagire con quelle stesse istituzioni a una scala e a una velocità che i sistemi non sono mai stati progettati per assorbire.

La piena che nessuno aveva pianificato

L’analogia che spiega meglio tutto questo è l’email. Quando la posta elettronica è arrivata, è stata presentata come uno strumento che avrebbe eliminato le riunioni inutili e ridotto l’attrito amministrativo. Quello che ha fatto in realtà è stato abbassare il costo dell’invio di messaggi quasi a zero, il che significa che le persone ne hanno mandati molti di più, e il tempo risparmiato da un lato è stato speso per gestire il diluvio dall’altro.

L’IA sta seguendo lo stesso schema, solo più in fretta e su scala maggiore. L’ex funzionario pubblico Sam Freedman ha osservato che i governi di tutto il mondo sembrano sperimentare insoliti picchi di reclami, richieste e risposte agli organismi normativi e ufficiali sin dalla adozione diffusa di strumenti come ChatGPT. L’attrito che un tempo filtrava la comunicazione a basso sforzo è stato rimosso. Ciò che rimane è il volume.

Questo non è un fenomeno marginale. I casi nei tribunali del lavoro in Inghilterra, Scozia e Galles sono aumentati del 39% in un solo anno, e la stesura assistita dall’IA dei ricorsi viene citata come fattore contributivo. I tribunali ora gestiscono presentazioni da parte di individui che non possono permettersi una rappresentanza legale ma possono usare l’IA per costruire argomentazioni, citando a volte precedenti legali che non esistono. Ognuna di quelle richieste richiede comunque un essere umano per essere letta, valutata e districata, perché un’argomentazione difettosa potrebbe comunque contenere una lamentela legittima al di sotto.

Dove si sta accumulando davvero l’arretrato

La pressione non si limita ai tribunali. I consiglieri speciali di Whitehall hanno descritto dipartimenti governativi sopraffatti da richieste sulla libertà di informazione generate dall’IA. I membri del Parlamento riferiscono che i loro uffici ricevono lettere da parte dei costituenti generate dall’IA in volumi che richiedono una revisione umana, perché ignorare anche una sola di esse rischia di far perdere qualcosa di genuinamente importante.

Le consultazioni pubbliche, che servono a misurare ciò che i cittadini pensano realmente delle modifiche proposte alla legge, affrontano una versione dello stesso problema. Se le risposte che arrivano in massa sono generate da macchine anziché scritte da umani, la consultazione perde la sua funzione di segnale democratico. Il confine tra rendere la partecipazione civica più accessibile e renderla così priva di attrito da diventare priva di significato si sta rivelando più sottile del previsto.

Il mercato del lavoro offre un’altra illustrazione. I datori di lavoro che hanno adottato strumenti di IA per filtrare le candidature su larga scala hanno scoperto che i candidati hanno risposto automatizzando la loro parte del processo, inviando un gran numero di candidature anziché mirate. Il risultato è che nessuna delle due parti riesce a identificare in modo efficiente una corrispondenza autentica. Una scorciatoia adottata da un lato ha spinto a una contro-scorciatoia dall’altro, e l’effetto netto è più rumore per tutti.

Cosa rivela questo sul funzionamento effettivo dell’efficienza

Ecco cosa la maggior parte dei servizi sull’IA nel governo tende a tralasciare: i guadagni di efficienza non sono proprietà permanenti di una tecnologia. Sono relativi al contesto, e il contesto cambia quando l’adozione si diffonde.

L’articolo traccia un utile paragone con il traffico urbano. Le automobili hanno ridotto drasticamente il tempo di viaggio rispetto al cavallo. Ma man mano che la proprietà delle automobili è diventata diffusa, le città nelle ore di punta sono rallentate fino a quasi fermarsi. Entro il 2018, il traffico diurno nel centro di Londra si muoveva a poco più di 7 miglia all’ora, circa la velocità di un pony al trotto. La tecnologia che avrebbe dovuto accelerare il movimento ha finito, in condizioni di adozione di massa, per riprodurre gli stessi vincoli che doveva risolvere.

L’IA agentica, la prossima ondata di strumenti progettati per agire in modo autonomo per conto di un utente, comporta lo stesso rischio. I primi utilizzatori possono davvero risparmiare tempo e ridurre l’attrito. Ma se l’adozione raggiunge la scala che le principali aziende tecnologiche stanno proiettando, quelle scorciatoie diventano la nuova linea di base. Tutti le stanno usando, il che significa che nessuno ottiene un vantaggio relativo, e i sistemi dall’altra parte affrontano un problema di volume che non sono stati costruiti per gestire.

Questo è importante per il modo in cui istituzioni, aziende e individui pensano agli investimenti nell’IA. Il tempo risparmiato in una parte di un sistema ha la tendenza a riapparire come costo altrove. Un dipartimento governativo che usa l’IA per elaborare le richieste più velocemente potrebbe scoprire che il numero di richieste è cresciuto ancora più rapidamente. L’efficienza è reale ma parziale, e la contabilità completa richiede di guardare all’intero sistema, non solo al nodo che è stato ottimizzato.

Storicamente, le società hanno sviluppato meccanismi per reintroducere l’attrito dove era stato rimosso in modo troppo aggressivo: i filtri antispam per l’email, i pedaggi di congestione per i centri urbani. La domanda per l’IA è quale sarà l’equivalente di questi interventi e quanto tempo ci vorrà per svilupparli.

In breve

L’IA non è semplicemente uno strumento che le istituzioni distribuiscono. È uno strumento che tutti distribuiscono, simultaneamente, comprese le persone che quelle istituzioni dovrebbero servire. Quando entrambi i lati di qualsiasi interazione si automatizzano in una volta sola, i guadagni di efficienza si annullano e il problema del volume si aggrava. L’aumento del 39% dei casi nei tribunali del lavoro non è un’anomalia. È un segnale precoce di ciò che accade quando l’attrito scompare dai sistemi che dipendevano da esso per funzionare.

Basato su un articolo di The Guardian.

Scritto da

NAVION