The Brief
Wie KI funktioniert 5 Min. Lesezeit

Gleicher Output, anderer Prozess: Die Denklücke der KI

NAVION

Teilen

Moderne KI-Systeme können Gedichte schreiben, komplexe Probleme lösen und Gespräche führen, die bemerkenswert menschlich wirken. Dennoch kehren die Forscher und Kognitionswissenschaftler, die sowohl künstliche Intelligenz als auch den menschlichen Geist untersuchen, immer wieder zu derselben unbequemen Beobachtung zurück: Ein menschlich wirkendes Ergebnis zu produzieren ist nicht dasselbe wie auf menschliche Art zu denken. Diese Unterscheidung ist wichtiger, als die meiste Berichterstattung über KI anzuerkennen bereit ist.

Warum Wörter vorhersagen nicht dasselbe ist wie die Welt verstehen

Große Sprachmodelle wie ChatGPT, Claude, Google Gemini und Perplexity AI basieren auf einem trügerisch einfachen Mechanismus: Sie lernen, das nächste Wort oder Textfragment vorherzusagen. Trainiert mit enormen Datenmengen, werden diese Systeme außerordentlich gut darin, plausible Fortsetzungen für jeden beliebigen Satz zu generieren.

Stell dir einen Prompt vor wie „Eine Hand stößt eine Tasse nahe dem Rand eines Tisches an. Die Tasse…“ Ein gut trainiertes Sprachmodell vervollständigt dies mit etwas wie „kippt über den Rand und fällt auf den Boden.“ Die Antwort ist korrekt. Aber das Modell gelangt dorthin, indem es Muster in Daten erkennt, und nicht etwa durch ein internes Modell von Schwerkraft, Oberflächen oder den physikalischen Konsequenzen von Bewegung. Es hat noch nie eine Tasse angefasst. Es hat noch nie gefühlt, wie eine wegrutscht.

Das ist der Punkt, den die meiste Berichterstattung über KI-Fähigkeiten gerne überspielt. Der Output sieht aus wie Verständnis. Der Prozess dahinter ist jedoch etwas ganz anderes.

Weltmodelle: Die Lücke schließen, nicht überbrücken

Ein neuerer Ansatz der KI, allgemein als „Weltmodelle“ bezeichnet, versucht weiterzugehen. Anstatt Text vorherzusagen, lernen diese Systeme zu antizipieren, wie sich Situationen entwickeln und wie Handlungen sie verändern. Sie können aus Videos, Simulationen oder Aufzeichnungen darüber lernen, was Roboter in physischen Umgebungen sehen und tun.

Für einen Haushaltsroboter könnte ein Weltmodell bedeuten zu lernen, dass das Greifen einer Tasse mit zu viel Kraft sie zerbrechen könnte oder dass eine falsche Bewegung sie umkippen lassen könnte. Durch die Einbeziehung von Handlungen, Bewegung und sensorischen Informationen beginnen diese Systeme, Vorhersagen mit physischen Konsequenzen auf eine Weise zu verknüpfen, wie es reine Sprachmodelle nicht tun.

Der Vergleich zur menschlichen Kognition ist hier aufschlussreich. Menschen stützen sich auf etwas, das Kognitionswissenschaftler durch einen Rahmen namens prädiktive Verarbeitung beschreiben: Das Gehirn erzeugt Erwartungen, vergleicht sie mit eingehenden Informationen und passt sich an, wenn beide nicht übereinstimmen. Greifst du nach einer Tasse, die du für voll hältst, die aber in Wirklichkeit leer ist, hebt sich deine Hand mit zu viel Kraft. Die Diskrepanz ist unmittelbares Feedback. Sie korrigiert die Bewegung und aktualisiert die interne Einschätzung des Gewichts der Tasse.

Weltmodelle können etwas strukturell Ähnliches replizieren. Sie können aus sensorischem Feedback lernen und Vorhersagen entsprechend anpassen. Wenn sich diese Forschung weiterentwickelt, wird die Ähnlichkeit zur menschlichen Kognition möglicherweise immer schwerer zu ignorieren sein. Aber zum selben Ergebnis bei einer Vorhersage zu gelangen enthüllt nicht, welches Wissen diesem zugrunde liegt oder wie dieses Wissen geformt wurde.

Was eine Tasse für einen menschlichen Geist tatsächlich bedeutet

Hier wird die tiefergehende Lücke sichtbar. Für einen Menschen ist eine Tasse nicht einfach nur ein zylindrisches Objekt auf einem Tisch. Sie ist greifbar, zerbrechlich, möglicherweise zu heiß zum Halten, womöglich deine eigene oder die von jemand anderem, vielleicht kurz davor herunterzufallen. Menschliches Verständnis verknüpft die physischen Eigenschaften eines Objekts mit einem dichten Netzwerk möglicher Handlungen, sozialer Bedeutungen und antizipierter Konsequenzen.

Diese Art des Verständnisses entwickelt sich früh. Studien legen nahe, dass Säuglinge im Alter von nur wenigen Monaten bereits grundlegende Erwartungen darüber haben, wie sich physische Objekte verhalten. Der Entwicklungspsychologe Jean Piaget schlug vor, dass Kinder Wissen aufbauen, indem sie auf die Welt einwirken, und allmählich in die Lage versetzt werden, Konsequenzen gedanklich zu antizipieren, ohne jede Handlung physisk ausführen zu müssen.

Menschliches Lernen ist mit anderen Worten nicht nur die Anhäufung von Informationen über Objekte. Es ist die Integration von physischer Erfahrung, sensorischem Feedback, emotionalem Kontext und sozialer Bedeutung in ein kohärentes Modell der Realität. Vorherzusagen, dass eine Tasse hinunterfällt, deckt nur einen schmalen Ausschnitt dieses Verständnisses ab.

KI-Systeme, selbst solche, die Weltmodelle nutzen, lernen aus Handlungen und sensorischem Feedback zusätzlich zu Videos und Simulationen. Sie können auf strukturierte Weise mit der Welt interagieren. Die offene Frage ist, wie diese Interaktionen zu der Art von Wissen beitragen, das sie aufbauen, und ob dieses Wissen dem menschlichen Verständnis in mehr als nur seinen Outputs ähnelt.

Warum die Unterscheidung zwischen Leistung und Prozess wichtig ist

Das ist keine abstrakte philosophische Debatte. Da KI-Systeme immer besser darin werden, die Resultate menschlicher Kognition zu replizieren, wird die Lücke zwischen dem, was sie produzieren, und der Art und Weise, wie sie es produzieren, schwerer zu erkennen und leichter zu ignorieren.

Diese Lücke hat praktische Konsequenzen. Ein System, das plausible Ergebnisse vorhersagt, ohne zu verstehen, warum sie auftreten, mag in vertrauten Situationen gute Leistungen erbringen und in unerwarteten versagen. Ein System, das den Anschein erweckt, physische Kausalität zu verstehen, betreibt vielleicht nur Mustererkennung auf einem Niveau, das raffiniert genug ist, um Beobachter zu täuschen, einschließlich der Personen, die es in risikoreichen Umgebungen einsetzen.

Die Forscher hinter dieser Analyse bringen es auf den Punkt: Die Unterscheidung von Leistung und Prozess wird nur noch wichtiger werden, während die Fähigkeiten von KI wachsen. Das ist ein nützlicher Rahmen für jeden, der darüber nachdenkt, wo man KI-Systemen vertrauen sollte, wo man menschliches Urteilsvermögen durch sie ergänzen kann und wo menschliches Verständnis wahrhaft unersetzlich bleibt.

Kurz gesagt

KI-Systeme, einschließlich der fortschrittlichsten Sprachmodelle und aufkommender Weltmodelle, können Outputs erzeugen, die menschlichem Schlussfolgern stark ähneln. Sie nehmen die Welt jedoch nicht auf dieselbe Weise wahr, lernen sie nicht so und verstehen sie nicht so wie Menschen. Der Mechanismus hinter ähnlichen Ergebnissen ist grundlegend verschieden. Da diese Systeme leistungsfähiger werden, wird die Fähigkeit, den Unterschied zu erkennen zwischen einem System, das Verständnis darstellt, und einem, das es tatsächlich besitzt, zu einer der wichtigsten Fragen auf diesem Gebiet.

Basierend auf Berichten von The Conversation.

Zur Originalstudie.

Geschrieben von

NAVION