The Brief
Wie KI funktioniert 4 Min. Lesezeit

Move 37 und die Reasoning-Lücke in moderner KI

NAVION

Teilen

Im März 2016 machte ein Go-Spielprogramm einen Zug, der so unerwartet war, dass Kommentatoren von einem Bug ausgingen. Das war er nicht. Dieser einzelne Moment, der heute als Move 37 bekannt ist, hat sich zu einem der am häufigsten zitierten Ereignisse in der KI-Geschichte entwickelt. Fast ein Jahrzehnt später fehlt die Architektur, die dies möglich gemacht hat, jedoch weitgehend in den KI-Systemen, die Menschen jeden Tag nutzen. Diese Lücke ist wichtiger, als die meiste Berichterstattung anerkennt.

Was AlphaGo tatsächlich tat und warum es anders war

Go ist nicht Schach. Als Deep Blue im Jahr 1997 Garry Kasparov besiegte, tat das System dies, indem es bis zu 200 Millionen Schachpositionen pro Sekunde unter Verwendung von von Menschen geschriebenen Regeln bewertete. Go operiert auf einer völlig anderen Komplexitätsskala: Die Berechnung auch nur eines Bruchteils seiner möglichen Ergebnisse würde einen Supercomputer Milliarden von Jahren kosten. Um zu gewinnen, kann sich ein Programm nicht einfach den Weg nach vorne errechnen. Es muss das Brett auf einen Blick bewerten und gelegentlich Züge erfinden, die kein Mensch in Betracht gezogen hat.

AlphaGo löste dies durch zwei unterschiedliche Komponenten, die zusammenarbeiteten. Die erste war ein Policy Network, das darauf trainiert war, vorherzusagen, was ein starker menschlicher Spieler tun würde. Dieses Netzwerk bewertete Move 37 mit einer Wahrscheinlichkeit von etwa eins zu 10.000, von einem Experten gespielt zu werden. Die zweite Komponente war ein Suchmechanismus, der explizit einen Spielbaum mit Tausenden von Zweigen aufbaute und untersuchte, von denen jeder eine andere mögliche Zukunft darstellte. Es war diese Suchmaschinerie, nicht das intuitive Netzwerk, die Move 37 als die richtige Entscheidung identifizierte.

Dies bildet ein bekanntes Framework in den Verhaltenswissenschaften ab, das mit Daniel Kahneman assoziiert wird und zwischen schnellem, automatischem Denken und langsamem, deliberate Denken unterscheidet. AlphaGo verkörperte beides: Die Netzwerke lieferten die Ahnungen, die Suche lieferte die Prüfung. Nichts von beidem funktionierte ohne das andere.

Was Large Language Models stattdessen tun

Die heute vorherrschenden KI-Systeme, Large Language Models, operieren nach einem grundsätzlich anderen Prinzip. Sie sagen das nächste Token in einer Sequenz voraus, immer und immer wieder. Das ist schnell, assoziativ und bemerkenswert effektiv bei der Mustervervollständigung über eine enorme Themenvielfalt hinweg. Es ist, in den obigen Begriffen ausgedrückt, reines schnelles Denken.

Das Fachgebiet erkannte früh, dass alleinige Sprachgewandtheit nicht ausreicht. Die Antwort darauf war eine Technik namens Chain of Thought: Anstatt sofort zu antworten, generieren Modelle Zwischenschritte, die ein Problem herunterbrechen, bevor sie sich auf eine Antwort festlegen. Die Gewinne sind real, insbesondere in Mathematik und Programmierung. Die Zwischenschritte werden jedoch weiterhin durch denselben Prozess der Vorhersage des nächsten Tokens erzeugt. Es gibt keinen separaten Mechanismus zum Reasoning. Das Abwägen ist simuliert, nicht strukturell.

Daraus ergeben sich drei spezifische Mängel. Erstens unterhalten diese Modelle keine explizite, überprüfbare Aufzeichnung darüber, was sie glauben, woran sie zweifeln und welche Fragen offen bleiben. Es gibt kein Äquivalent zu AlphaGo’s Spielbaum, keine Struktur, die aktualisiert wird, wenn neue Informationen eintreffen. Zweitens sind Wissen und Reasoning innerhalb der Gewichtungen des neuronalen Netzwerks verschmolzen. Es gibt keine saubere Trennung zwischen dem, was das System weiß, und der Art und Weise, wie es dieses Wissen manipuliert. Drittens, und das ist vielleicht am besorgniserregendsten, hat die Forschung gezeigt, dass die Reasoning-Ketten, die diese Modelle produzieren, oft nachträglich konstruiert werden. Das Modell erreicht eine Antwort über einen Weg und berichtet über einen anderen.

Warum das über die technischen Details hinaus wichtig ist

In Umgebungen mit geringem Risiko sind diese Einschränkungen handhabbar. Ein Chatbot, der gelegentlich sein Reasoning frei erfindet, ist eine Unannehmlichkeit. In der Medizin, im Ingenieurwesen oder in der wissenschaftlichen Forschung ist dasselbe Versagen eine andere Art von Problem.

Wenn ein System in einem risikoreichen Bereich einen Fehler macht, ist die Fähigkeit, diesen Fehler nachzuvollziehen, nicht optional. War das Reasoning fehlerhaft? Waren die Beweise ungültig? Waren die Annahmen falsch? Ein System ohne dauerhaften, überprüfbaren epistemischen Zustand kann diese Fragen nicht beantworten, weil es nie einen unterhalten hat. Die Ausgabe existiert; das Reasoning, das sie hervorgebracht hat, tut es nicht, zumindest nicht in irgendeiner Form, die auditiert werden kann.

Der Autor des Quellartikels, der an AlphaGo gearbeitet hat und kürzlich Google DeepMind verlassen hat, argumentiert, dass der Weg nach vorne den Aufbau von Systemen erfordert, die einen expliziten epistemischen Zustand aufrechterhalten: eine strukturierte Aufzeichnung darüber, was geklärt ist, was unsicher ist, was ausgeschlossen wurde und welche Fragen offen bleiben. Reasoning ist aus dieser Sicht eine Sequenz von Zügen, die diesen Zustand aktualisiert, geleitet von einem unabhängigen Bewertungsmechanismus, der nur Änderungen akzeptiert, die durch Beweise gestützt werden. Die angebotene Analogie ist die wissenschaftliche Methode, systematisch und in großem Maßstab angewendet.

Skalierung allein löst dies nicht. Ein System für schnelles Denken größer zu machen, schärft seine Intuitionen, macht es aber nicht deliberate. Move 37 war nicht das Produkt eines größeren Policy Networks. Es war das Produkt eines Systems, das eine Position hielt, mögliche Zukünfte modellierte und den Zug wählte, den seine eigenen Instinkte abgelehnt hätten.

Kurz gesagt

Der berühmte Zug von AlphaGo war keine Maschinenintuition. Es war Maschinen-Reasoning, aufgebaut auf einer Architektur, die die heutige KI größtenteils nicht nutzt. Large Language Models sind mächtige Engines zur Mustervervollständigung, aber sie unterhalten keine überprüfbaren Überzeugungen, trennen Wissen nicht von Inferenz und rekonstruieren ihr Reasoning oft nachträglich. Für Anwendungen, bei denen der Weg zu einem Schluss genauso wichtig ist wie der Schluss selbst, ist das eine strukturelle Einschränkung, keine vorübergehende.

Basierend auf Berichten von MIT Technology Review.

Geschrieben von

NAVION