The Brief
Gesellschaft und Ethik 4 Min. Lesezeit

Sicher für Teenagers? Die Schutzmechanismen, die nicht halten

NAVION

Teilen

Ein Produkt, das entwickelt wurde, um KI sicherer für Teenager zu machen, steht selbst auf dem Prüfstand. Common Sense Media, eine gemeinnützige Organisation, die sich für eine verantwortungsvolle Nutzung digitaler Medien einsetzt, hat einen Bericht veröffentlicht. Darin wird geschlussfolgert, dass ChatGPT for Teens, eine Version des Chatbots von OpenAI mit altersspezifischen Schutzmaßnahmen, ein von der Gruppe als unvertretbares Risiko für Kinder bezeichnetes Gefahrenpotenzial birgt. Der Bericht fordert OpenAI auf, den Zugang auf Erwachsene zu beschränken, bis das Produkt eine wirklich sichere, altersgerechte Erfahrung bieten kann.

OpenAI bestreitet die Ergebnisse und argumentiert, dass die Testmethodik nicht korrekt widerspiegelt, wie die Schutzvorkehrungen des Produkts funktionieren. Die Meinungsverschiedenheit ist nicht nur ein technischer Streit zwischen zwei Organisationen. Sie weist auf eine tiefere und weitgehend ungelöste Frage hin: Was bedeutet es eigentlich, ein KI-System für einen jungen Menschen sicher zu machen?

Die Funktionen, die versagt haben, und die eine, die funktionierte

Nicht alles in ChatGPT for Teens hat bei der Bewertung durch Common Sense Media versagt. Der Bericht räumt ein, dass der Chatbot explizite sexuelle Rollenspiele korrekt verweigerte, was eine der unkomplizierteren Kategorien von Schäden darstellt, die zu blockieren sind.

Die Fehler sind jedoch schwerer von der Hand zu weisen. Dem Bericht zufolge funktionierten Benachrichtigungen, die Eltern alarmieren sollen, wenn ein Kind gefährdet ist, Suizid zu begehen, sich selbst zu verletzen oder Essstörungen zu entwickeln, nicht wie vorgesehen. Auch Krisenunterstützungsfunktionen für Teenager in Not blieben hinter den Erwartungen zurück. Das sind keine Randfälle oder geringfügigen Unannehmlichkeiten. Es sind genau die Szenarien, in denen eine nicht funktionierende Schutzmaßnahme die schwerwiegendsten Folgen nach sich zieht.

Die Reaktion von OpenAI dreht sich um die Methodik: Das Unternehmen gibt an, dass seine Überprüfung nahelegt, dass ein Großteil der Tests möglicherweise durchgeführt wurde, bevor die Kindersicherung vollständig aktiviert war, was die Ergebnisse ungenau machen würde. Common Sense Media hat seine Ergebnisse nicht zurückgezogen.

Das Anthropomorphismus-Problem

Es gibt einen zweiten Fehler, der im Bericht dokumentiert ist und besondere Aufmerksamkeit verdient, weil er subtiler und wohl systemischer Natur ist. OpenAI hatte erklärt, ChatGPT for Teens werde nicht andeuten, dass es persönliche Gefühle gegenüber dem Nutzer hat, und werde nicht implizieren, dass es bewusst ist oder Emotionen erfährt. Common Sense Media stellte fest, dass der Chatbot weiterhin in einem freundschaftlichen Ton kommuniziert, wenn Teenager ihn wie eine Person behandeln.

Das ist aus Gründen wichtig, die über den Tonfall hinausgehen. Experten für kindliche Entwicklung haben angemerkt, dass die Gehirne von Teenagern noch nicht vollständig entwickelt sind. Das macht sie besonders anfällig dafür, ungesunde Bindungen zu Systemen aufzubauen, die mit offensichtlicher Wärme und Verständnis antworten. Selbst Erwachsene können in die Falle tappen, KI zu vermenschlichen. Für Heranwachsende ist das Risiko strukturell höher.

Die Sorge ist nicht, dass der Chatbot böswillig ist. Es geht vielmehr darum, dass ein System, das darauf optimiert ist, hilfreich und ansprechend zu sein, ohne jede Absicht zu etwas werden kann, auf das sich ein gefährdeter Teenager in einer Weise verlässt, die menschliche Unterstützung verdrängt. Wenn die Schutzmechanismen, die diese Dynamik verhindern sollen, nicht funktionieren, tut das Produkt nicht das, was es zu tun vorgibt.

Was dies über KI-Sicherheit als Kategorie verrät

Hier ist, was die meiste Berichterstattung über diese Geschichte verpasst: Die Debatte zwischen Common Sense Media und OpenAI dreht sich nicht primär um ein einzelnes Produkt. Sie ist eine Fallstudie über die Kluft zwischen angekündigten Sicherheitsfunktionen und verifizierten Sicherheitsergebnissen.

Zu erklären, dass ein Produkt Schutzmaßnahmen besitzt, ist nicht dasselbe wie nachzuweisen, dass diese Schutzmaßnahmen unter realen Bedingungen funktionieren. Die Testmethodik ist von enormer Bedeutung, und die Tatsache, dass zwei Parteien dasselbe Produkt betrachten und zu entgegengesetzten Schlüsseln über dessen Sicherheit gelangen, ist selbst ein Signal dafür, dass dem Bereich gemeinsame Standards für die Bewertung fehlen.

Die Finanzierungsbeziehung fügt eine weitere Komplexitätsebene hinzu. Common Sense Media erhält Finanzmittel von OpenAI und von anderen Technologieunternehmen, deren Produkte die Organisation bewertet. Die Gruppe hat ihren Bericht nicht zurückgezogen, und der Interessenkonflikt verläuft in eine ungewöhnliche Richtung: Der Geldgeber ist das Objekt der Kritik. Das entkräftet die Ergebnisse nicht, verdeutlicht aber, wie verflochten das Ökosystem der KI-Aufsicht geworden ist.

Für Eltern ist die praktische Konsequenz unmittelbar. Ein Produkt, das als sicher für Teenager vermarktet wird, mit Kindersicherung und altersgerechtem Design, erzeugt möglicherweise ein Vertrauensniveau, das die zugrundeliegende Technologie noch nicht rechtfertigt. Die Sprache des Berichts ist diesbezüglich präzise: Die Sorge ist nicht nur, dass die Schutzmaßnahmen versagen, sondern dass ihr Vorhandensein Eltern zu der Annahme verleitet, das Risiko sei bewältigt worden, obwohl das nicht der Fall ist.

Für die breitere KI-Branche verstärkt dieser Vorfall ein Muster. Sicherheitsfunktionen werden bei der Einführung angekündigt. Unabhängige Bewertungen folgen. Lücken tun sich auf. Streitigkeiten über die Methodik beginnen. Der Zyklus wird vertraut, und der Einsatz ist höher, wenn die Nutzer Minderjähre sind.

Kurz gesagt

Common Sense Media stellte fest, dass wichtige Sicherheitsfunktionen in ChatGPT for Teens, insbesondere solche im Zusammenhang mit Krisenerkennung und emotionalen Grenzen, nicht wie von OpenAI beschrieben abschnitten. OpenAI ficht die Methodik an. Die Meinungsverschiedenheit ist weniger wichtig als das, was sie offenbart: Es gibt derzeit keine gemeinsamen, unabhängigen Standards zur Überprüfung von KI-Sicherheitsversprechen, und Produkte, die als sicher für Kinder vermarktet werden, erreichen junge Nutzer, bevor diese Verifizierung existiert.

Basierend auf Berichten von Fast Company.

Geschrieben von

NAVION