Un insegnante supplente di Los Banos, in California, ha scoperto un’immagine manipolata che lo ritraeva mentre lavorava in un turno in una caffetteria. La cugina di un collega barista l’aveva notata mentre circolava sui social media. L’immagine sembrava un selfie allo specchio che ricordava di aver scattato anni prima, ma la sua uniforme da lavoro era stata sostituita con della lingerie e la sua postura modificata in una posa suggestiva. Quel momento, come ha descritto a WIRED, è sembrato “un pugno nello stomaco”. È stato anche l’inizio di un calvario durato mesi che avrebbe attraversato due scuole e coinvolto studenti, amministratori e polizia.
Il suo caso non è isolato. WIRED ha parlato con diversi educatori che sostengono che gli studenti abbiano creato immagini o video sessualizzati di loro usando strumenti di IA, e il modello che emerge da questi resoconti rivela qualcosa di importante: questo non è un problema marginale. È un problema strutturale.
Come una Singola Immagine Diventa una Crisi di Mesi
Ciò che rende questi episodi particolarmente difficili da contenere è la rapidità con cui i contenuti generati dall’IA si diffondono attraverso le piattaforme e le cerchie sociali. Nel caso di Los Banos, l’immagine è passata da TikTok a Snapchat, per poi seguire l’insegnante in una scuola completamente diversa. Durante una lezione alla scuola superiore locale, ha ricevuto la stessa immagine generata dall’IA tramite AirDrop prima che venisse rapidamente revocata. Il contenuto aveva di fatto viaggiato con lui.
L’insegnante ha identificato una probabile fonte attraverso un account TikTok che utilizzava il vero nome di uno studente. Ha anche scoperto un account separato che lo impersonava, usando il suo nome con un leggero errore di ortografia e la sua foto come immagine del profilo. Uno studente ha ammesso di aver creato l’immagine e ha ricevuto una sospensione scolastica. Ma la punizione non ha fermato la diffusione. Altri studenti hanno continuato a pubblicare l’immagine e commenti sessuali crudi sono apparsi sul suo account TikTok legittimo.
Alla fine ha detto agli amministratori che non sarebbe tornato alla scuola media finché la questione non fosse stata completamente risolta. Il distretto non ha risposto alla richiesta di commento di WIRED. In seguito ha dichiarato che probabilmente non sarebbe tornato affatto nel distretto per quell’anno, affermando chiaramente che non si sentiva sicuro nel farlo.
Un Modello che Attraversa le Scuole, Non un Singolo Episodio
Un secondo educatore, un’insegnante di scuola media sulla trentina che ha chiesto l’anonimato, ha descritto una situazione che è degenerata ben oltre un singolo pezzo di contenuto fabbricato. Gli studenti avevano precedentemente preso di mira una collega sulla sessantina, trovando foto pubbliche e manipolandole per raffigurare atti sessuali, per poi condividerle in una chat di gruppo su Snapchat. Quando la giovane insegnante è diventata a sua volta un bersaglio, il contenuto ha assunto una forma diversa: un account TikTok che la impersonava, apparentemente generato dall’IA, mostrava il suo volto con la caratteristica levigatezza delle immagini sintetiche, la sua bocca che si muoveva in modo innaturale e la sua voce non corrispondente. Alcuni video la ritraevano mentre faceva skydiving o capriole all’indietro. Altri la mostravano mentre discuteva di atti sessuali che presumibilmente aveva compiuto e apprezzato.
Gli studenti che hanno segnalato l’account a lei credevano sinceramente che fosse reale. Ha dovuto chiarire ai suoi stessi studenti che l’account non era il suo. Dopo aver chiesto loro di segnalarlo, TikTok ha rimosso l’account relativamente in fretta.
La situazione non è finita lì. Lo studente ritenuto responsabile ha iniziato a molestarla di persona, usando un linguaggio abusivo e intensificando la situazione nel giro di settimane. Durante una riunione di facoltà, un collega ha rivelato di aver visto un video apparentemente generato dall’IA di se stesso mentre veniva arrestato, che ha attribuito anch’esso allo stesso studente. Il vicepreside ha rivelato che lo stesso studente li stava contattando nel bel mezzo della notte e pubblicando immagini generate dall’IA di loro su TikTok. Lo studente è stato infine rimosso dalla sua classe e in seguito ha lasciato del tutto il distretto.
Cosa Dice la Legge e Cosa Non Sono Tenute a Fare le Scuole
L’avvocato in pensione specializzato nella tutela del lavoro Donna Ballman ha dichiarato a WIRED che quando uno studente crea e condivide immagini sessuali di un insegnante, costituisce un “caso chiaro” di molestia sessuale sul posto di lavoro. Ai sensi della legge federale antidiscriminazione, i datori di lavoro, comprese le scuole, sono obbligati a mantenere un luogo di lavoro libero da molestie sessuali. Ciò potrebbe significare punire uno studente o trasferirlo in un’altra classe.
Ballman ha anche osservato, tuttavia, che non esiste un “modello” su come le scuole debbano rispondere. Gli amministratori non sono nemmeno tenuti a informare un insegnante vittima di come uno studente sia stato punito. Lo standard legale, come ha detto lei, è semplicemente che devono “creare un ambiente sicuro per la vittima”.
Dal lato della piattaforma, Snap ha fornito a WIRED le sue politiche che vietano la condivisione di contenuti generati o manipolati dall’IA usati per umiliare o molestare sessualmente gli altri, e ha osservato di aver stabilito processi di segnalazione. TikTok non ha commentato prima della pubblicazione.
La pubblicazione di immagini intime non consensuali, comprese quelle generate dall’IA, può anche violare la legge federale Take It Down Act, che criminalizza la diffusione di tali contenuti online.
In Breve
Gli strumenti di IA hanno reso possibile fabbricare immagini sessualizzate convincenti di persone reali usando nient’altro che foto disponibili pubblicamente. Quando quegli strumenti raggiungono gli studenti, gli educatori diventano vulnerabili in un modo che le politiche scolastiche esistenti e la moderazione delle piattaforme non sono ancora attrezzate per gestire in modo coerente. Il quadro giuridico esiste in frammenti: legge federale, tutele contro le molestie sul posto di lavoro, politiche delle piattaforme. Ma come dimostrano questi casi, il divario tra ciò che la legge permette e ciò che le scuole sono effettivamente tenute a fare lascia le vittime a navigare in un processo incerto e spesso ri-traumatizzante. La tecnologia si è mossa più velocemente delle istituzioni destinate a governarla.
Basato su un articolo di Wired.