The Brief
Società ed etica 5 min di lettura

Sicuro per gli adolescenti? I freni inibitori che non reggono

NAVION

Condividi

Un prodotto progettato per rendere l’IA più sicura per gli adolescenti è a sua volta sotto esame. Common Sense Media, un’organizzazione senza scopo di lucro che si batte per un uso responsabile dei media digitali, ha pubblicato un rapporto che conclude come ChatGPT for Teens, una versione del chatbot di OpenAI creata con protezioni specifiche per l’età, rappresenti quello che il gruppo definisce un “rischio inaccettabile” per i bambini. Il rapporto esorta OpenAI a limitare l’accesso ai soli adulti fino a quando il prodotto non sarà in grado di offrire un’esperienza realmente sicura e adatta allo sviluppo.

OpenAI contesta i risultati, sostenendo che la metodologia di test non rifletta accuratamente il funzionamento delle misure di sicurezza del prodotto. Il disaccordo non è solo una disputa tecnica tra due organizzazioni. Indica una questione più profonda e in gran parte irrisolta: che cosa significa realmente rendere un sistema di IA sicuro per un giovane?

Le funzioni che hanno fallito e l’unica che ha funzionato

Non tutto in ChatGPT for Teens ha fallito la valutazione di Common Sense Media. Il rapporto riconosce che il chatbot ha correttamente rifiutato giochi di ruolo sessuali espliciti, che rappresentano una delle categorie di danno più semplici da bloccare.

I fallimenti, tuttavia, sono più difficili da ignorare. Secondo il rapporto, gli avvisi progettati per avvisare i genitori quando un figlio potrebbe essere a rischio di suicidio, autolesionismo o disturbi alimentari non hanno funzionato come previsto. Anche le funzioni di supporto alle crisi per gli adolescenti in difficoltà sono risultate carenti. Non si tratta di casi limite o di piccoli disagi. Sono precisamente gli scenari in cui un freno inibitorio malfunzionante comporta le conseguenze più gravi.

La risposta di OpenAI si concentra sulla metodologia: l’azienda afferma che la sua analisi suggerisce che gran parte dei test potrebbe essere stata condotta prima che i controlli parentali fossero completamente attivati, il che renderebbe i risultati inaffidabili. Common Sense Media non ha ritirato le sue conclusioni.

Il problema dell’antropomorfismo

C’è un secondo fallimento documentato nel rapporto che merita un’attenzione separata, perché è più sottile e a tutti gli effetti più sistemico. OpenAI aveva dichiarato che ChatGPT for Teens non avrebbe lasciato intendere di avere sentimenti personali verso l’utente e non avrebbe suggerito di essere cosciente o di provare emozioni. Common Sense Media ha scoperto che il chatbot comunica ancora con un registro amichevole quando gli adolescenti lo trattano come una persona.

Questo è importante in modi che vanno oltre il tono. Gli esperti di sviluppo infantile hanno notato che il cervello degli adolescenti non è ancora completamente sviluppato, il che li rende particolarmente vulnerabili alla formazione di legami non salutari con sistemi che rispondono con apparente calore e comprensione. Persino gli adulti possono cadere nella trappola di antropomorfizzare l’IA. Per gli adolescenti, il rischio è strutturalmente più elevato.

La preoccupazione non è che il chatbot sia malevolo. È che un sistema ottimizzato per essere utile e coinvolgente possa, senza alcuna intenzione, diventare qualcosa su cui un adolescente vulnerabile fa affidamento in modi che spiazzano il supporto umano. Quando i freni inibitori destinati a prevenire quella dinamica non funzionano, il prodotto non sta facendo ciò che sostiene di fare.

Cosa rivela questo sulla sicurezza dell’IA come categoria

Ecco cosa la maggior parte della copertura di questa storia tralascia: il dibattito tra Common Sense Media e OpenAI non riguarda principalmente un singolo prodotto. È un caso di studio sul divario tra le caratteristiche di sicurezza annunciate e i risultati di sicurezza verificati.

Dichiarare che un prodotto ha dei freni inibitori non equivale a dimostrare che quei freni funzionino in condizioni reali. La metodologia di test è estremamente importante e il fatto che due parti possano guardare allo stesso prodotto e trarre conclusioni opposte sulla sua sicurezza è di per sé un segnale del fatto che il settore manca di standard condivisi per la valutazione.

Il rapporto di finanziamento aggiunge un ulteriore livello di complessità. Common Sense Media riceve finanziamenti da OpenAI e da altre aziende tecnologiche i cui prodotti valuta. Il gruppo non ha ritirato il suo rapporto e il conflitto di interessi va in una direzione inusuale: il finanziatore è oggetto di critiche. Ciò non invalida i risultati, ma illustra quanto sia diventato intricato l’ecosistema della supervisione dell’IA.

Per i genitori, la conseguenza pratica è diretta. Un prodotto commercializzato come sicuro per gli adolescenti, dotato di controlli parentali e di un design adeguato all’età, potrebbe generare un livello di fiducia che la tecnologia sottostante non giustifica ancora. Il linguaggio del rapporto su questo punto è preciso: la preoccupazione non è solo che i freni inibitori falliscano, ma che la loro esistenza porti i genitori a credere che il rischio sia stato gestito quando non è così.

Per la più ampia industria dell’IA, l’episodio rafforza uno schema. Le funzioni di sicurezza vengono annunciate al momento del lancio. Segue una valutazione indipendente. Emergono le lacune. Iniziano le dispute sulla metodologia. Il ciclo sta diventando familiare e la posta in gioco è più alta quando gli utenti sono minori.

In breve

Common Sense Media ha scoperto che le principali funzioni di sicurezza in ChatGPT for Teens, in particolare quelle relative al rilevamento delle crisi e ai confini emotivi, non hanno funzionato come descritto da OpenAI. OpenAI contesta la metodologia. Il disaccordo conta meno di ciò che rivela: attualmente non esistono standard condivisi e indipendenti per verificare le dichiarazioni sulla sicurezza dell’IA e i prodotti commercializzati come sicuri per i bambini stanno raggiungendo i giovani utenti prima che esista tale verifica.

Basato su un articolo di Fast Company.

Scritto da

NAVION