Ein Vertretungslehrer in Los Banos, Kalifornien, erfuhr von einem manipulierten Bild von sich, während er in einem Café arbeitete. Die Cousine eines anderen Baristas hatte es in den sozialen Medien entdeckt. Das Bild sah aus wie ein Spiegel-Selfie, an das er sich erinnerte, vor Jahren aufgenommen zu haben, aber seine Arbeitskleidung war durch Dessous ersetzt und seine Haltung in eine anzügliche Pose verändert worden. Dieser Moment, wie er WIRED berichtete, fühlte sich an wie ein “Schlag in den Magen”. Es war auch der Beginn einer monatelangen Odyssee, die zwei Schulen umspannen und Schüler, Verwaltungsangestellte sowie die Polizei einbeziehen sollte.
Sein Fall ist kein Einzelfall. WIRED sprach mit mehreren Lehrkräften, die behaupten, Schüler hätten mithilfe von KI-Tools sexualisierte Bilder oder Videos von ihnen erstellt, und das Muster, das sich in diesen Berichten zeigt, offenbart etwas Wichtiges: Dies ist kein Randproblem. Es ist ein strukturelles Problem.
Wie ein einzelnes Bild zu einer monatelangen Krise wird
Was diese Vorfälle besonders schwer einzudämmen macht, ist, wie schnell KI-generierte Inhalte über Plattformen und soziale Kreise hinweg kursieren. Im Fall von Los Banos wanderte das Bild von TikTok zu Snapchat und folgte dem Lehrer dann an eine ganz andere Schule. Während einer Unterrichtsstunde an der örtlichen Highschool erhielt er dasselbe KI-generierte Bild über AirDrop, bevor es schnell wieder zurückgezogen wurde. Der Inhalt war im Grunde mit ihm gereist.
Der Lehrer identifizierte eine wahrscheinliche Quelle über einen TikTok-Account, der den echten Namen eines Schülers verwendete. Er entdeckte auch einen weiteren Account, der ihn imitierte, indem er seinen Namen mit einem leichten Tippfehler und sein Foto als Profilbild nutzte. Ein Schüler gab zu, das Bild erstellt zu haben, und erhielt einen internen Schulausschluss. Aber die Disziplinarmaßnahme stoppte die Verbreitung nicht. Andere Schüler posteten das Bild weiterhin, und auf seinem echten TikTok-Account tauchten anzügliche sexuelle Kommentare auf.
Schließlich teilte er der Verwaltung mit, dass er erst an die Mittelschule zurückkehren werde, wenn die Angelegenheit vollständig geklärt sei. Der Schulbezirk reagierte nicht auf die Anfrage von WIRED nach einem Kommentar. Später sagte er, er werde in jenem Jahr wahrscheinlich überhaupt nicht mehr in den Bezirk zurückkehren, und erklärte offen, dass er sich dabei nicht sicher fühle.
Ein Muster an Schulen, kein einzelner Vorfall
Eine zweite Lehrkraft, eine Mittelschullehrerin Mitte zwanzig, die anonym bleiben wollte, beschrieb eine Situation, die weit über ein einzelnes fabriziertes Medium hinausging. Schüler hatten zuvor eine Kollegin in den Sechzigern ins Visier genommen, öffentliche Fotos gefunden und sie so manipuliert, dass sie sexuelle Handlungen darstellten, um sie dann in einem Snapchat-Gruppenchat zu teilen. Als die jüngere Lehrerin selbst zur Zielscheibe wurde, nahm der Inhalt eine andere Form an: Ein TikTok-Account, der sie imitierte und offensichtlich KI-generiert war, zeigte ihr Gesicht mit der charakteristischen Glätte synthetischer Bilder, ihren Mund in unnatürlicher Bewegung und mit nicht synchroner Stimme. Einige Videos zeigten sie beim Fallschirmspringen oder bei Saltos. Andere zeigten sie, wie sie über sexuelle Handlungen sprach, die sie angeblich vollzog und genoss.
Schüler, die den Account bei ihr meldeten, glaubten ernsthaft, er sei echt. Sie musste ihren eigenen Schülern erklären, dass der Account nicht von ihr stammte. Nachdem sie sie gebeten hatte, ihn zu melden, entfernte TikTok den Account relativ schnell.
Die Situation endete damit nicht. Der Schüler, der als verantwortlich angesehen wurde, begann, sie persönlich zu belästigen, benutzte beleidigende Sprache und steigerte das Ganze über Wochen hinweg. Bei einer Lehrerkonferenz enthüllte ein Kollege, er habe ein anscheinend KI-generiertes Video von sich selbst gesehen, wie er festgenommen wird, was er ebenfalls demselben Schüler zuschrieb. Die stellvertretende Schulleiterin offenbarte, dass derselbe Schüler sie mitten in der Nacht kontaktierte und KI-generierte Bilder von ihnen auf TikTok postete. Der Schüler wurde schließlich aus ihrem Unterricht entfernt und verließ den Schulbezirk später ganz.
Was das Gesetz sagt und was Schulen nicht tun müssen
Die im Ruhestand befindliche Anwältin für Arbeitsrecht Donna Ballman erklärte gegenüber WIRED, dass es sich um einen „klaren Fall“ von sexueller Belästigung am Arbeitsplatz handelt, wenn ein Schüler sexuelle Bilder einer Lehrkraft erstellt und teilt. Nach Bundesrecht zur Antidiskriminierung sind Arbeitgeber, einschließlich Schulen, verpflichtet, einen Arbeitsplatz frei von sexueller Belästigung aufrechtzuerhalten. Das könnte bedeuten, einen Schüler zu disziplinieren oder in ein anderes Klassenzimmer zu versetzen.
Ballman wies jedoch auch darauf hin, dass es „keinen Leitfaden“ dafür gibt, wie Schulen reagieren müssen. Verwaltungen sind nicht einmal verpflichtet, eine betroffene Lehrkraft darüber zu informieren, wie ein Schüler diszipliniert wurde. Der rechtliche Standard bestehe, wie sie es ausdrückte, einfach darin, dass sie „eine sichere Umgebung für das Opfer schaffen“ müssen.
Auf Seiten der Plattformen stellte Snap WIRED seine Richtlinien zur Verfügung, die das Teilen von KI-generierten oder manipulierten Inhalten untersagen, die dazu dienen, andere zu erniedrigen oder sexuell zu belästigen, und wies darauf hin, dass Meldeverfahren eingerichtet wurden. TikTok äußerte sich vor der Veröffentlichung nicht.
Die Veröffentlichung nicht einvernehmlicher intimer Bilder, einschließlich KI-generierter, kann zudem gegen den federal Take It Down Act verstoßen, der die Verbreitung solcher Inhalte im Internet unter Strafe stellt.
Kurz gefasst
KI-Tools haben es möglich gemacht, überzeugende sexualisierte Bilder realer Menschen zu fabrizieren, indem man nichts weiter als öffentlich zugängliche Fotos verwendet. Wenn diese Tools Schüler erreichen, sind Lehrkräfte auf eine Weise angreifbar, auf die bestehende Schulrichtlinien und die Moderation von Plattformen noch nicht vorbereitet sind. Der rechtliche Rahmen existiert in Bruchstücken: Bundesgesetze, Schutz vor Belästigung am Arbeitsplatz, Richtlinien von Plattformen. Wie diese Fälle jedoch zeigen, sorgt die Lücke zwischen dem, was das Gesetz erlaubt, und dem, wozu Schulen tatsächlich verpflichtet sind, dafür, dass Opfer einen ungewissen und oft reetraumatisierenden Prozess durchlaufen müssen. Die Technologie hat sich schneller entwickelt als die Institutionen, die sie regeln sollen.
Basierend auf Berichten von Wired.