Um professor substituto em Los Banos, na Califórnia, soube de uma imagem manipulada dele mesmo enquanto trabalhava em uma cafeteria. O primo de um colega barista a havia visto circulando nas redes sociais. A imagem parecia uma selfie no espelho que ele lembrava ter tirado anos antes, mas seu uniforme de trabalho havia sido substituído por lingerie e sua postura alterada para uma pose sugestiva. Aquele momento, conforme ele descreveu à WIRED, pareceu “um soco no estômago”. Também foi o começo de uma provação de meses que atravessaria duas escolas e envolveria estudantes, administradores e a polícia.
O caso dele não é isolado. A WIRED conversou com vários educadores que alegam que estudantes criaram imagens ou vídeos sexualizados deles usando ferramentas de IA, e o padrão que surge nesses relatos revela algo importante: este não é um problema marginal. É um problema estrutural.
Como uma Única Imagem se Torna uma Crise de Meses
O que torna esses incidentes particularmente difíceis de conter é a rapidez com que o conteúdo gerado por IA se espalha por plataformas e círculos sociais. No caso de Los Banos, a imagem foi do TikTok para o Snapchat, e depois seguiu o professor para uma escola totalmente diferente. Durante uma aula no colégio local, ele recebeu a mesma imagem gerada por IA via AirDrop antes que fosse rapidamente revogada. O conteúdo havia efetivamente viajado com ele.
O professor identificou uma provável fonte por meio de uma conta no TikTok que usava o nome real de um estudante. Ele também descobriu uma conta separada se passando por ele, usando seu nome com um pequeno erro de ortografia e sua foto como foto de perfil. Um estudante admitiu ter criado a imagem e recebeu suspensão interna na escola. Mas a punição não deteve a propagação. Outros estudantes continuaram postando a imagem, e comentários sexuais grosseiros apareceram em sua conta legítima no TikTok.
Ele acabou dizendo aos administradores que não voltaria para o ensino fundamental II até que o assunto estivesse totalmente resolvido. O distrito não respondeu ao pedido de comentário da WIRED. Ele disse mais tarde que provavelmente não voltaria para o distrito naquele ano, declarando abertamente que não se sentia seguro para fazê-lo.
Um Padrão em Várias Escolas, Não um Único Incidente
Uma segunda educadora, uma professora do ensino fundamental II na faixa dos vinte e poucos anos que pediu anonimato, descreveu uma situação que escalou muito além de um único pedaço de conteúdo fabricado. Estudantes haviam anteriormente mirado em uma colega na casa dos sessenta anos, encontrando fotos públicas e manipulando-as para retratar atos sexuais, compartilhando-as em um chat em grupo no Snapchat. Quando a professora mais jovem se tornou um alvo, o conteúdo tomou uma forma diferente: uma conta no TikTok se passando por ela, aparentemente gerada por IA, mostrava seu rosto com a suavidade característica de imagens sintéticas, sua boca se movendo de forma não natural e sua voz dessincronizada. Alguns vídeos a retratavam saltando de paraquedas ou fazendo mortais para trás. Outros a mostravam discutindo atos sexuais que ela supostamente praticava e apreciava.
Estudantes que denunciaram a conta a ela acreditavam genuinamente que era real. Ela teve que esclarecer aos seus próprios estudantes que a conta não era dela. Depois que ela pediu que eles a denunciassem, o TikTok removeu a conta relativamente rápido.
A situação não terminou aí. O estudante considerado responsável começou a assediá-la pessoalmente, usando linguagem abusiva e escalando ao longo de semanas. Em uma reunião de faculdade, um colega revelou ter visto um vídeo aparentemente gerado por IA de si mesmo sendo preso, o que ele também atribuiu ao mesmo estudante. A vice-diretora revelou que o mesmo estudante estava entrando em contato com eles no meio da noite e postando imagens geradas por IA deles no TikTok. O estudante foi eventualmente removido da classe dela e mais tarde deixou o distrito completamente.
O Que a Lei Diz e o Que as Escolas Não São Obrigadas a Fazer
A advogada aposentada de defesa trabalhista Donna Ballman disse à WIRED que, quando um estudante cria e compartilha imagens sexuais de um professor, isso constitui um “caso claro” de assédio sexual no ambiente de trabalho. Sob a lei antidiscriminação federal, os empregadores, incluindo escolas, são obrigados a manter um ambiente de trabalho livre de assédio sexual. Isso pode significar punir um estudante ou movê-lo para uma sala de aula diferente.
Ballman também observou, no entanto, que não há “nenhum manual” sobre como as escolas devem responder. Os administradores nem sequer são obrigados a informar a um professor vitimizado como um estudante foi punido. O padrão legal, como ela colocou, é simplesmente que eles devem “criar um ambiente seguro para a vítima.”
Do lado da plataforma, o Snap forneceu à WIRED suas políticas que proíbem o compartilhamento de conteúdo gerado por IA ou manipulado usado para humilhar ou assediar sexualmente outros, e observou que estabeleceu processos de denúncia. O TikTok não comentou antes da publicação.
Publicar imagens íntimas não consensuais, incluindo aquelas geradas por IA, também pode violar a lei federal Take It Down Act, que criminaliza a disseminação de tal conteúdo online.
Em Resumo
As ferramentas de IA tornaram possível fabricar imagens sexualizadas convincentes de pessoas reais usando nada mais do que fotos publicamente disponíveis. Quando essas ferramentas alcançam os estudantes, os educadores tornam-se vulneráveis de uma maneira que as políticas escolares existentes e a moderação de plataformas ainda não estão equipadas para lidar consistentemente. O arcabouço legal existe em fragmentos: lei federal, proteções contra assédio no local de trabalho, políticas de plataforma. Mas, como esses casos mostram, a lacuna entre o que a lei permite e o que as escolas são realmente obrigadas a fazer deixa as vítimas navegando por um processo incerto e frequentemente revitimizador. A tecnologia moveu-se mais rápido do que as instituições destinadas a governá-la.
Com base em reportagem de Wired.