Un enseignant remplaçant à Los Banos, en Californie, a découvert une image manipulée le représentant alors qu’il travaillait dans un café. Le cousin d’un autre barista l’avait vue circuler sur les réseaux sociaux. L’image ressemblait à un selfie pris dans un miroir des années auparavant, mais son uniforme de travail avait été remplacé par de la lingerie et sa posture modifiée pour adopter une pose suggestive. Ce moment, tel qu’il l’a décrit à WIRED, a été ressenti comme “un coup de poing dans le ventre”. C’était aussi le début d’une épreuve de plusieurs mois qui allait traverser deux établissements scolaires et impliquer des élèves, des administrateurs ainsi que la police.
Son cas n’est pas isolé. WIRED s’est entretenu avec plusieurs enseignants qui affirment que des élèves ont créé des images ou des vidéos sexualisées les représentant à l’aide d’outils d’IA, et la tendance qui se dégage de ces témoignages révèle quelque chose d’important, ce n’est pas un problème marginal, c’est un problème structurel.
Comment une seule image devient une crise de plusieurs mois
Ce qui rend ces incidents particulièrement difficiles à endiguer est la rapidité avec laquelle le contenu généré par IA se propage sur les plateformes et les cercles sociaux. Dans l’affaire de Los Banos, l’image est passée de TikTok à Snapchat, puis a suivi l’enseignant dans un tout autre établissement. Pendant un cours au lycée local, il a reçu la même image générée par IA via AirDrop avant qu’elle ne soit rapidement annulée. Le contenu l’avait en quelque sorte suivi.
L’enseignant a identifié une source probable grâce à un compte TikTok qui utilisait le vrai nom d’un élève. Il a également découvert un autre compte usurpant son identité, utilisant son nom avec une légère faute d’orthographe et sa photo comme image de profil. Un élève a admis avoir créé l’image et a écopé d’une suspension au sein de l’établissement. Mais la sanction n’a pas arrêté la propagation. D’autres élèves ont continué à publier l’image, et des commentaires sexuels grossiers sont apparus sur son véritable compte TikTok.
Il a fini par dire aux administrateurs qu’il ne retournerait pas au collège tant que l’affaire ne serait pas totalement réglée. Le district n’a pas répondu à la demande de commentaire de WIRED. Il a déclaré plus tard qu’il ne retournerait probablement pas du tout dans le district cette année-là, affirmant clairement qu’il ne s’y sentait pas en sécurité.
Une tendance à travers les écoles, et non un incident isolé
Une seconde enseignante, professeur de collège au milieu de la vingtaine qui a requis l’anonymat, a décrit une situation qui a dégénéré bien au-delà d’un simple contenu fabriqué. Des élèves avaient auparavant ciblé une collègue d’une soixantaine d’années en trouvant des photos publiques et en les manipulant pour représenter des actes sexuels, puis en les partageant dans une discussion de groupe sur Snapchat. Lorsque la plus jeune enseignante est devenue elle-même une cible, le contenu a pris une autre forme, avec un compte TikTok usurpant son identité, apparemment généré par IA, montrant son visage avec la régularité caractéristique des images de synthèse, sa bouche bougeant de manière anormale et sa voix désynchronisée. Certaines vidéos la montraient en train de faire du parachutisme ou des saltos arrière. D’autres la montraient en train de discuter d’actes sexuels qu’elle était censée avoir accomplis et appréciés.
Les élèves qui ont signalé le compte pensaient sincèrement qu’il était réel. Elle a dû clarifier auprès de ses propres élèves que le compte n’était pas le sien. Après leur avoir demandé de le signaler, TikTok a supprimé le compte relativement rapidement.
La situation ne s’est pas arrêtée là. L’élève présumé responsable a commencé à la harceler en personne, utilisant un langage injurieux et intensifiant son comportement au fil des semaines. Lors d’une réunion pédagogique, un collègue a révélé avoir vu une vidéo apparemment générée par IA de lui-même en train d’être arrêté, qu’il a également attribuée au même élève. Le principal adjoint a révélé que le même élève les contactait au milieu de la nuit et publiait des images générées par IA les représentant sur TikTok. L’élève a finalement été exclu de son cours et a ensuite quitté complètement le district.
Ce que dit la loi, et ce que les écoles ne sont pas tenues de faire
Donna Ballman, avocate retraitée spécialisée dans la défense des droits des employés, a indiqué à WIRED que lorsqu’un élève crée et partage des images sexuelles d’un enseignant, cela constitue un “cas avéré” de harcèlement sexuel sur le lieu de travail. En vertu de la législation fédérale anti-discrimination, les employeurs, y compris les écoles, ont l’obligation de maintenir un lieu de travail exempt de harcèlement sexuel. Cela peut signifier sanctionner un élève ou le transférer dans une autre classe.
Donna Ballman a toutefois souligné qu’il n’existe “aucun modèle” quant à la manière dont les écoles doivent réagir. Les administrateurs ne sont même pas tenus d’informer un enseignant victime de la sanction infligée à un élève. La norme juridique, selon ses termes, est simplement qu’ils doivent “créer un environnement sûr pour la victime”.
Du côté des plateformes, Snap a fourni à WIRED ses politiques interdisant le partage de contenus générés ou manipulés par IA utilisés pour humilier ou harceler sexuellement autrui, et a noté qu’elle avait mis en place des processus de signalement. TikTok n’a pas fait de commentaires avant la publication.
La publication d’images intimes non consensuelles, y compris celles générées par IA, peut également violer la loi fédérale Take It Down Act, qui criminalise la diffusion de tels contenus en ligne.
En bref
Les outils d’IA ont permis de fabriquer des images sexualisées convaincantes de vraies personnes en n’utilisant rien d’autre que des photos accessibles au public. Lorsque ces outils atteignent les élèves, les enseignants se retrouvent vulnérables d’une manière que les politiques scolaires existantes et la modération des plateformes ne sont pas encore équipées pour gérer de manière cohérente. Le cadre juridique existe de manière fragmentée, entre loi fédérale, protections contre le harcèlement au travail et politiques des plateformes. Mais comme le montrent ces affaires, le fossé entre ce que la loi permet et ce que les écoles sont réellement tenues de faire laisse les victimes naviguer dans un processus incertain et souvent source de retraumatisation. La technologie a évolué plus vite que les institutions censées la régir.
D’après un reportage de Wired.