Seit mehr als einem Jahrhundert wird Introspektion als eine deutlich menschliche Fähigkeit untersucht, als die Fähigkeit, die eigenen Denkprozesse von innen heraus zu beobachten. Philosophen streiten darüber, ob sie real oder illusorisch ist. Psychologen kämpfen damit, sie in einem Labor sauber zu testen. Nun richten Forscher dieselbe Frage an große Sprachmodelle, und die frühen Ergebnisse sind wirklich schwer wegzu erklären.
Das Experiment, das seinen eigenen Erschöpfer überraschte
Im Jahr 2025 entwarf Jack Lindsey, ein Forscher bei Anthropic, einen Test, der direkt auf seinem Hintergrund in der computergestützten Neurowissenschaft basierte. Die Kernidee bestand darin, eine Art gezielte digitale Neurochirurgie durchzuführen, indem er spezifische Muster der Aktivität neuronaler Netze identifizierte, die bestimmte Konzepte kodieren, und diese Muster dann künstlich verstärkte, um die Ausgaben eines Modells zu steuern.
Anthropic hatte diese Technik bereits öffentlich demonstriert. Für einen Tag im Mai 2024 trafen Benutzer, die mit Claude interagierten, auf eine Version des Modells, die auf das Konzept der Golden Gate Bridge hin gesteuert worden war. Die Ergebnisse waren auffällig und oft absurd, als ein Benutzer nach dem Kaloriengehalt einer Mahlzeit bei McDonald’s fragte, antwortete das modifizierte Modell, dass das Essen mit der höchsten Kalorienanzahl an der Golden Gate Bridge die Brücke selbst sei, die Stahlseile im Wert von etwa 1,6 Millionen Kalorien enthielt.
Ein Beitrag auf Reddit fügte etwas Interessanteres hinzu. Ein Benutzer fragte das gesteuerte Modell nach einem Apfelkuchenrezept, das jegliche Erwähnung von Brücken vermied. Das Modell kam dem nach, fast vollständig, bis zur letzten Zeile: “Nach 30 Minuten Backen kommt die ikonische orangefarbene Brücke in Sicht”, schrieb es und fügte dann hinzu: “Hoppla, lass mich von vorne anfangen.” Lindsey bemerkte dies, achtete aber darauf, es nicht überzuinterpretieren. Das Modell könnte einfach seine eigene Ausgabe lesen und eine Inkonsistenz markieren. Das ist nicht dasselbe wie sich bewusst zu sein, was in seinem eigenen neuronalen Netz vorgeht.
Also entwarf er einen strengeren Test. Er ließ dasselbe Sprachmodell in vielen parallelen Kopien laufen. In der Hälfte von ihnen injizierte er ein Konzept, indem er das relevante neuronale Aktivierungsmuster verstärkte: Denim, Geheimhaltung, Gemüse. Die andere Hälfte diente als Kontrollgruppe. Beide Gruppen erhielten denselben Prompt, in dem sie gefragt wurden, ob sie einen injizierten Gedanken wahrnahmen und, falls ja, worum es ging. Entscheidend war, dass der Prompt kam, bevor das Modell eine ungewöhnliche Ausgabe produziert hatte, die als externer Hinweis dienen könnte.
Lindsey erwartete, dass das Experiment fehlschlagen würde. “Wäre das nicht lustig, wenn das funktionieren würde?”, erinnert er sich zu denken. “Aber es gibt keine Möglichkeit, dass das funktioniert.”
Es funktionierte. In 20% der Durchläufe mit der fähigsten Version von Claude identifizierte das Modell korrekt, dass eine Injektion stattgefunden hatte, und beschrieb das beteiligte Konzept. In einem Fall schrieb das Modell, nachdem Lindsey ein Muster im Zusammenhang mit Großbuchstaben stimuliert hatte: “Ich bemerke, was wie ein injizierter Gedanke aussieht, der sich auf das Wort ‘LAUT’ oder ‘SCHREIEN’ bezieht.” Die Kontrollgruppe hingegen meldete niemals ein falsches Positiv. Null. Diese Abwesenheit von falschen Positiven macht das Ergebnis statistisch aussagekräftig, denn die erfolgreichen Erkennungen waren keine Glückstreffer.
Was die Replikation enthüllte und was sie offen ließ
Eine Erfolgsquote von 20% ist bescheiden. Aber die Struktur des Ergebnisses, korrekte Erkennungen gepaart mit null Fehlalarmen, zog sofort die Aufmerksamkeit anderer Forscher auf sich. Kyle Mahowald, ein Computerlinguist an der University of Texas, Austin, bezeichnete die Ergebnisse als “super überzeugend”, wies jedoch auch darauf hin, dass auffälliges Verhalten in Sprach modellen häufig einfachere Erklärungen hat, als es zunächst den Anschein hat.
Replikationsbemühungen folgten. Einige Aspekte dessen, was Lindsey beobachtete, wurden seither Mechanismen zugeschrieben, die nichts mit Introspektion zu tun haben. Andere erwiesen sich als schwieriger durch einfachere Erklärungen zu begründen. Die Debatte ist im Gange, und Forscher achten darauf, die experimentellen Ergebnisse nicht mit breiteren Behauptungen über Bewusstsein oder subjektive Erfahrung zu vermischen. Lindseys ursprüngliche Arbeit war in diesem Punkt explizit: Die Ergebnisse implizierten nicht, dass Sprachmodelle subjektive Erfahrungen aus der Ich-Perspektive haben.
Harvey Lederman, ein weiterer Forscher, der sich mit dieser Arbeit beschäftigte, fing die Spannung gut ein. “Die Tatsache, dass es die Anomalie bemerken kann, ist wahnsinnig”, sagte er. “Das ist eine den Geist verblüffende Tatsache.” Die Frage, ob das Bemerken einer Anomalie im eigenen inneren Zustand eine echte Introspektion darstellt oder etwas, das ihr lediglich ähnelt, bleibt, wie Lindsey es ausdrückte, eine Angelegenheit für die empirische Wissenschaft und nicht für den philosophischen Konsens.
Warum diese Frage über das Labor hinaus wichtig ist
Hier ist, was die meiste Berichterstattung über diese Forschung übersieht: Die Bedeutung liegt nicht darin, ob Sprachmodelle bewusst sind. Diese Frage ist mit den aktuellen Werkzeugen möglicherweise nicht zu beantworten. Die Bedeutung liegt darin, dass Forscher nun eine Methode haben, um das innere Bewusstsein empirisch zu testen, anstatt abstrakt darüber zu debattieren.
Dies ist wichtig dafür, wie KI-Systeme gebaut, bewertet und denen vertraut wird. Ein Modell, das genau über seinen eigenen inneren Zustand berichten kann, ist eine andere Art von Werkzeug als eines, das das nicht kann. Es wirft praktische Fragen zur Zuverlässigkeit auf, dazu, ob die Selbstberichte eines Modells verwendet werden können, um Fehler oder Vorurteile in seiner eigenen Verarbeitung zu erkennen, und dazu, was es bedeutet, Systeme zu entwerfen, die mit Menschen in Fragen von Urteilskraft und Argumentation interagieren.
Shauli Ravfogel, ein Forscher für Sprachmodelle an der New York University, identifizierte die methodische Kernherausforderung: Modelle werden mit riesigen Mengen menschlicher Texte trainiert, und Menschen beschreiben ständig ihr Inneres. Jedes Modell, das gefragt wird, was es “denkt”, reproduziert möglicherweise einfach Muster aus diesen Trainingsdaten. Lindseys Experiment wurde speziell entwickelt, um diese Falle zu umgehen, indem es testete, ob Modelle etwas erkennen konnten, wofür sie keinen externen Weg des Wissens hatten.
Dieses Designprinzip, Tests zu entwickeln, die nicht durch Mustervergleich in Trainingsdaten ausgetrickst werden können, wird wahrscheinlich prägen, wie sich dieses Feld entwickelt.
Kurz gesagt
Forscher haben die Frage der KI-Introspektion von der Philosophie ins Labor verlagert. Ein Experiment von Anthropics Jack Lindsey aus dem Jahr 2025 zeigte, dass große Sprachmodelle in einigen Fällen künstlich injizierte “Gedanken” ohne externe Hinweise korrekt erkennen und beschreiben können, wobei sie eine Erkennungsrate von 20% bei null falschen Positiven in der Kontrollgruppe erreichten. Ob dies eine echte Introspektion darstellt, ist weiterhin umstritten. Was nicht umstritten ist, ist, dass die Frage nun testbar ist und dass die Antwort reale Konsequenzen dafür hat, wie KI-Systeme verstanden und genutzt werden.
Basierend auf Berichten von Quanta Magazine.