Eine Überwachungsorganisation, die illegale Inhalte weltweit verfolgt, hat eine Zahl veröffentlicht, die verdeutlicht, wie ernst die Diskussion über KI-Sicherheit geführt werden muss. Allein in der ersten Hälfte des Jahres 2026 haben Analysten der Internet Watch Foundation 6.310 durch KI generierte Bilder bewertet, die der gesetzlichen Definition von Material über sexuellen Kindesmissbrauch entsprechen. Diese Zahl übertrifft bereits das Jahrestagesamt von mehr als 4.500 im Jahr 2025 erfassten Bildern, was einem Anstieg von 40 Prozent bei noch verbleibender Jahreshälfte entspricht.
Dies ist kein Randproblem an den Rändern des Internets. Es ist ein dokumentierter, messbarer, sich beschleunigender Trend.
Eine Technologie, die den zu ihrer Eindämmung geschaffenen Regeln davonläuft
Die Internet Watch Foundation, eine in Großbritannien ansässige Organisation, die Missbrauchsmaterial weltweit überwacht, verfolgt durch KI generierte Inhalte über sexuellen Kindesmissbrauch seit mehreren Jahren. Was ihre Analysten derzeit beobachten, ist nicht einfach nur Wachstum, sondern Beschleunigung. Das Volumen der in den ersten sechs Monaten dieses Jahres bewerteten Standbilder hat bereits alles übertroffen, was in den vorangegangenen zwölf Monaten katalogisiert wurde.
Die Mehrheit der von IWF-Analysten überprüften Bilder zeigte Mädchen, und die meisten abgebildeten Personen schienen Kinder im Alter zwischen sieben und dreizehn Jahren zu sein. Dies sind keine abstrakten Datenpunkte. Sie repräsentieren das Ergebnis von generativen KI-Systemen, die absichtlich missbraucht werden, um fotorealistische Darstellungen von Kindesmissbrauch zu produzieren.
Die IWF hat zudem einen Anstieg von durch KI generierten Videoinhalten in dieser Kategorie festgestellt, obwohl die oben genannten Zahlen nur Standbilder abdecken. Dieser Unterschied ist wichtig: Allein die Zahlen der Standbilder erzählen die Geschichte einer rasanten Verbreitung, und die Dimension der Videos fügt eine Ebene hinzu, die die aktuellen Daten noch nicht vollständig erfassen.
Was das Gesetz sagt und wo die Lücken bleiben
Der rechtliche Rahmen Großbritanniens zu diesem Thema ist relativ klar. Durch KI generiertes Material über sexuellen Kindesmissbrauch ist illegal. Ein KI-Model anzupassen, um solche Inhalte zu produzieren, ist illegal. Ein Modell zu vertreiben, das zu diesem Zweck entwickelt wurde, ist illegal. Die Entwicklung eines Modells, das speziell darauf ausgerichtet ist, hyperrealistische Missbrauchsdarstellungen zu generieren, zieht eine Freiheitsstrafe von bis zu fünf Jahren nach sich.
Ein Regierungssprecher bestätigte, dass britisches Recht unabhängig davon gilt, ob das Material durch KI generiert wurde oder nicht, und verwies auf zusätzliche Maßnahmen, die auf die Modelle selbst abzielen und nicht nur auf das Ergebnis.
Dennoch argumentiert die Internet Watch Foundation, dass das bestehende Recht nicht ausreicht. Hannah Swirsky, die Leiterin für Richtlinien beim IWF, hat verbindliche Gesetze zu KI gefordert, die Technologieunternehmen zwingen würden, von Natur aus sicherere Modelle zu bauen. Ihre Position ist direkt: Das Problem wurde durch Technologie geschaffen, und die Unternehmen, die diese Technologie entwickeln, tragen die Verantwortung dafür, sicherzustellen, dass sie nicht auf diese Weise als Waffe eingesetzt werden kann.
Der britische KI-Minister Kanishka Narayan hat erklärt, dass bei einer neuen Regulierung nichts ausgeschlossen ist, während er gleichzeitig andeutete, dass jeder Gesetzesvorschlag an einem einzigen Test gemessen wird: ob er die Menschen in Großbritannien sicherer macht. Ein neuer Gesetzentwurf, der sich speziell auf KI konzentriert, wurde nicht als unmittelbar bevorstehend angekündigt.
Diese Lücke zwischen dem Tempo des Schadens und dem Tempo der gesetzgeberischen Reaktion ist genau das, was die Zahlen des IWF sichtbar machen sollen.
Warum dies über die Schlagzeilen hinaus wichtig ist
Es gibt eine Dimension dieses Problems, die über die Produktion illegaler Bilder hinausgeht. Dieselben KI-Werkzeuge, die die Erstellung von Missbrauchsmaterial ermöglichen, werden auch von Online-Tätern genutzt, um explizite Bilder echter Kinder durch die Manipulation bestehender Fotos zu erzeugen. Der Dienst Report Remove des IWF, der daran arbeitet, intime Bilder daran zu hindern, im Internet aufzutauchen, hat bereits 420 Berichte von Kindern erhalten, die glaubten, Bilder von ihnen seien gefälscht oder so manipuliert worden, dass sie explizit wirken. Diese Zahl hat das Jahrestagesamt für 2025 mit 397 Berichten bereits übertroffen.
Hier wird die breitere gesellschaftliche Implikation konkret. Die National Crime Agency und das IWF haben begonnen, Eltern und Erziehungsberechtigte zu beraten, Fotografien ihrer Kinder gänzlich aus den sozialen Medien herauszuhalten oder die Freigabe zumindest auf private Konten oder Gruppen mit engen Freunden zu beschränken. Die Logik ist unkompliziert: Öffentlich zugängliche Bilder von Kindern können gesammelt und als Quellmaterial für KI-Manipulationen verwendet werden.
Hier ist, was die meiste Berichterstattung über dieses Thema übersieht. Die Diskussion über KI-Sicherheit neigt dazu, sich auf Fehlinformationen, Arbeitsplatzverlust oder Verzerrungen in automatisierten Systemen zu konzentrieren. Das sind berechtigte Bedenken. Aber die IWF-Daten verweisen auf eine Kategorie von Schaden, der unmittelbar, illegal und gegen die schutzbedürftigsten Menschen gerichtet ist: Kinder, die nicht in der Lage sind, in die Technologie einzuwilligen, die gegen sie eingesetzt wird.
Das Argument, dass KI-Unternehmen von Natur aus sichere Werkzeuge bauen sollten, ist keine Randposition. Es ist dieselbe Logik, die auf jede andere Produktkategorie angewendet wird, bei der Missbrauch schweren Schaden verursacht. Die Frage, die die Zahlen des IWF offen auf den Tisch legen, lautet, ob das aktuelle Tempo freiwilliger Maßnahmen und teilweiser Regulierung dem Ausmaß dessen entspricht, was dokumentiert wird.
Kurz gefasst
Die Internet Watch Foundation hat allein in der ersten Hälfte des Jahres 2026 insgesamt 6.310 durch KI generierte Bilder von sexuellem Kindesmissbrauch bewertet, 40 Prozent mehr als das gesamte Jahrestagesamt des Vorjahres. Großbritannien hat Gesetze gegen dieses Material, aber das IWF und Parlamentarier fordern verbindliche Gesetze, die KI-Unternehmen verpflichten, von Grund auf sicherere Modelle zu bauen. Unabhängig davon haben bereits mehr als 420 Kinder einem speziellen Dienst gemeldet, dass KI-Werkzeuge verwendet wurden, um reale Bilder von ihnen zu manipulieren. Die Daten sprechen eine deutliche Sprache: Die Technologie entwickelt sich schneller als die zu ihrer Regelung geschaffenen Rahmenbedingungen.
Basierend auf Berichten von The Guardian - Technology.