Un’azienda che forma lavoratori nelle competenze di intelligenza artificiale sta ora usando l’IA per monitorare le persone che fanno la formazione. Questa tensione si trova al centro di una recente segnalazione da parte di informatori di Multiverse, un’azienda di formazione tecnologica del Regno Unito valutata 1,6 miliardi di sterline, dove gli istruttori dicono che un sistema di monitoraggio dell’IA recentemente introdotto li ha portati a perdere il sonno, cercare terapia e mettere in discussione ogni parola che dicono in classe.
Un sistema che non distoglie mai lo sguardo
Prima dell’arrivo del nuovo sistema, gli istruttori di Multiverse venivano osservati da un manager umano circa una volta al mese. Ora, i modelli di IA analizzano le trascrizioni delle loro sessioni online per diverse ore ogni giorno. Il cambiamento non è solo quantitativo. È qualitativo.
L’IA assegna a ogni istruttore uno “stato di rischio” e un “punteggio di confidenza percentuale”, poi genera commenti scritti che i manager devono esaminare. Segnala comportamenti specifici: l’uso di riempitivi come “tipo” o “in un certo senso”, il fallimento nel risolvere un’interruzione di connessione entro circa un minuto, il dare risposte vaghe alle domande degli studenti, o il farsi trascinare in un prolungato scambio uno a uno che mette in secondo piano il resto del gruppo. Se un istruttore si autocorregge mentre dà istruzioni, quell’autocorrezione viene contata essa stessa come prova di scarsa preparazione, anche se la spiegazione è stata poi chiarita.
Il sistema riceve l’istruzione di cercare pattern attraverso intere trascrizioni, non momenti isolati. La sua stessa documentazione distingue tra esitazioni occasionali, che tollera, e quello che chiama un “pattern ripetuto e pervasivo”, che penalizza. La logica sembra misurata sulla carta. In pratica, gli istruttori dicono che ha prodotto qualcosa di più simile alla paralisi. Uno ha descritto di non riuscire più a concentrarsi sullo studente di fronte a sé, ma di monitorare invece il proprio discorso in tempo reale, chiedendosi se l’IA segnalerà ciò che ha appena detto.
Il divario tra la narrazione dell’azienda e l’esperienza dei lavoratori
La risposta di Multiverse alla polemica merita di essere esaminata attentamente, perché illustra un pattern comune all’implementazione dell’IA nei luoghi di lavoro. L’azienda afferma che l’IA non sostituisce il giudizio umano ma “indirizza il tempo umano dove è più necessario”. Solo i manager umani scrivono recensioni formali delle prestazioni. L’azione più seria che il sistema può compiere, secondo un portavoce, è raccomandare che un umano esamini personalmente una sessione.
Questa narrazione posiziona l’IA come uno strumento di triage, un filtro che fa emergere problemi affinché l’attenzione umana possa essere applicata in modo efficiente. È una descrizione ragionevole di ciò che la tecnologia fa meccanicamente. Ciò che non affronta è come il controllo automatizzato continuo risulti vissuto dall’interno.
Diversi istruttori, parlando in anonimato, hanno descritto l’esperienza come “implacabile” e “snervante”. Uno ha detto che lo stress ha disturbato il sonno. Un altro ha detto che il sistema concentra l’attenzione interamente su ciò che è stato fatto male, creando un ambiente mentale di perpetua attesa del fallimento. Un terzo ha descritto di essere stato segnalato dai manager per presunte “digressioni” che erano, in realtà, risposte alle domande degli studenti: l’IA aveva letto male l’insegnamento adattivo come deviazione dal copione.
C’è anche un problema di trasparenza. Durante il rilascio, agli istruttori non è stato dato accesso alle valutazioni dell’IA sulle loro stesse sessioni. I manager potevano vedere la dashboard; gli insegnanti no. L’azienda dice che l’accesso sarà fornito con il tempo. Ma l’asimmetria durante il periodo di introduzione significava che i lavoratori venivano valutati da un sistema i cui output non potevano vedere o contestare.
Multiverse usa un mix di modelli di IA inclusi prodotti di Anthropic e OpenAI. L’azienda è stata cofondata da Euan Blair, che detiene una grande quota di minoranza e il cui patrimonio netto personale stimato ammonta a 350 milioni di sterline. L’azienda ha registrato un fatturato di 118 milioni di sterline e perdite di 28 milioni nel suo anno finanziario più recente. A febbraio, Ofsted, l’ispettorato dell’istruzione del Regno Unito, ha riscontrato che Multiverse non è riuscita a soddisfare gli standard attesi in diverse aree, lodando però specificamente i suoi istruttori come “insegnanti abili ed efficaci”.
Cosa rivela questo caso sull’IA al lavoro
Multiverse non è sola. Burger King ha usato l’IA per tracciare le interazioni con i clienti nei ristoranti. Meta ha messo in pausa un programma che monitorava i tasti premuti dai dipendenti a seguito di preoccupazioni sulla privacy dei dati e resistenze interne. Il pattern è coerente: gli strumenti di monitoraggio dell’IA vengono introdotti in tutti i settori, spesso più velocemente rispetto ai framework per gestirne le conseguenze umane.
Il caso di Multiverse è particolarmente marcato a causa di ciò che fa l’azienda. Forma i lavoratori nelle competenze di IA e digitali, finanziata in gran parte attraverso la tassa di apprendistato del governo del Regno Unito, servendo il NHS, consigli locali, università e datori di lavoro del settore privato. Gli istruttori che sollevano preoccupazioni stanno insegnando essi stessi alla forza lavoro del futuro come lavorare a fianco dell’IA. L’ironia non è sottile.
Ciò che il caso fa emergere è una distinzione che spesso si perde nelle discussioni sull’IA nel luogo di lavoro. C’è una differenza tra l’IA che potenzia il giudizio umano e l’IA che si sostituisce alla consistenza dell’osservazione umana. Una revisione mensile da parte di un manager che conosce il contesto della classe, il gruppo di studenti particolare, la domanda inattesa che ha fatto saltare un piano, porta informazioni che un punteggio di trascrizione non può catturare. Quando il punteggio diventa il segnale principale, qualcosa viene perso, non solo nel benessere del lavoratore, ma nella qualità della valutazione stessa.
Il funzionario nazionale per la tecnologia della Communication Workers Union ha chiesto una nuova regolamentazione per garantire che l’IA sia implementata in modi socialmente responsabili. Questa richiesta riflette un divario più ampio: la tecnologia si muove più velocemente delle strutture di governance progettate per gestirla.
In breve
Il monitoraggio dell’IA sui lavoratori non è nuovo, ma il caso di Multiverse rende la posta in gioco insolitamente visibile. Un sistema progettato per migliorare la qualità dell’insegnamento sta, secondo i resoconti degli insegnanti stessi, degradando le condizioni in cui può avvenire un buon insegnamento. Lo strumento segnala parole di riempimento e autocorrezioni. Non può segnalare il costo di rendere ogni istruttore timoroso di pensare ad alta voce. Quel divario tra ciò che una IA può misurare e ciò che conta davvero è la vera lezione qui.
Basato su un articolo di The Guardian - Technology.