Seit 75 Jahren basiert die KI-Forschung auf zwei Ideen, die Alan Turing im Jahr 1950 eingeführt hat. Ein renommierter Informatiker argumentiert nun, dass diese Ideen fehlerhaft waren und dass die Konsequenzen, die sich aus ihrer Befolgung ergeben haben, die KI-Entwicklung auf eine Weise geprägt haben, die möglicherweise grundlegend einschränkend ist. Dies ist keine geringfügige technische Kritik. Es ist eine Herausforderung an die konzeptuellen Grundlagen des gesamten Fachgebiets.
Peter J. Denning, der Informatiker hinter diesem Argument, legt seinen Fall in einem Buch mit dem Titel Turing’s Mistake: Escaping the Yoke of Unintelligent Machines dar. Seine zentrale These lautet, dass zwei Annahmen, die Turing getroffen hat, nie ernsthaft hinterfragt wurden und dass beide falsch sind.
Die erste Annahme: Intelligenz kann unabhängig von einem physischen Körper existieren und daher in Software nachgebildet werden. Die zweite: Eine Maschine kann Intelligenz beweisen, indem sie einen Menschen in einem Gespräch überzeugend imitiert – daraus entstand die Grundlage des berühmten Turing-Tests. Dennings Position ist unmissverständlich. Diese Behauptungen ohne kritische Prüfung zu akzeptieren habe, wie er schreibt, zu dem geführt, was er als „das KI-Chaos, in dem wir uns heute befinden” bezeichnet.
Das Wissen, das sich nicht in einen Computer eintippen lässt
Der Kern von Dennings Argument ist das implizite Wissen. Dies ist die weitreichende Kategorie menschlichen Verstehens, die sich dagegen sperrt, in Worte gefasst oder in Daten kodiert zu werden. Es handelt sich dabei nicht um Unwissenheit. Es ist das Gegenteil: die tiefe, verkörperte Kompetenz, die es einem Menschen ermöglicht, sich in der Welt zurechtzufinden, ohne vollständig erklären zu können, wie.
Denning identifiziert fünf wesentliche Kategorien impliziten Wissens, die maschinelles Lernen nicht erfassen kann: gesunden Menschenverstand, alltägliche Interaktionen mit Menschen und der physischen Umgebung, Emotionen und Wahrnehmung, praktische Ausführungskompetenzen sowie das in der Kultur verankerte soziale und historische Wissen.
Die Herausforderung, gesunden Menschenverstand zu kodieren, ist nicht neu. Einer der beharrlichsten Versuche war das Cyc-Projekt, das Douglas Lenat in den 1980er Jahren initiierte. Sein Ziel war es, eine umfassende Datenbank mit Fakten des gesunden Menschenverstands aufzubauen. Nach vier Jahrzehnten Arbeit enthielt das Projekt rund 25 Millionen Einträge. Das ist ein enormes Unterfangen nach jedem Maßstab. Dennoch ist Dennings Einschätzung schonungslos: Selbst dieser Umfang an Aufwand konnte kein System mit echtem Expertenwissen hervorbringen. Das Projekt, so argumentiert er, habe das Problem eigentlich bestätigt, anstatt es zu lösen. Vieles von dem, was menschliche Experten befähigt, lässt sich schlicht nicht als Aussagen artikulieren.
Praktische Fähigkeiten stellen eine noch schärfere Variante dieses Problems dar. Denning zieht eine Unterscheidung zwischen „Wissen was” und „Wissen wie”. Beschreibungen von Ergebnissen einer Fertigkeit können als Daten gespeichert werden. Das verkörperte Wissen, das zur tatsächlichen Ausführung einer Fertigkeit erforderlich ist, hingegen nicht. Ein virtuoser Geiger kann außergewöhnliche Musik erzeugen, aber einem Schüler nicht vollständig erklären, wie er sie nachahmen soll. Selbst wenn ein Roboter einen versierten Musiker beobachten und imitieren könnte, hätte er keinen Zugang zu dem, was der Musiker beim Spielen empfindet, oder zu dem, was ein Publikum beim Zuhören fühlt. Die Darbietung und das Erleben der Darbietung sind untrennbar mit dem Besitz eines biologischen Körpers verbunden.
Warum eine Skalierung das Problem nicht löst
Hier wird Dennings Argument am unmittelbarsten relevant für den aktuellen Moment in der KI-Entwicklung. Große Sprachmodelle wie ChatGPT, Claude und Gemini sind in der Lage, flüssigen, kontextuell angemessenen Text zu erzeugen. Sie tun dabei jedoch, laut Denning, etwas grundlegend anderes als Verstehen.
Seine Formulierung ist präzise: Wörter sind symbolische Repräsentationen von Bedeutungen, nicht die Bedeutungen selbst. LLMs manipulieren Wörter. Sie wissen nicht, was die Wörter bedeuten. Hinter jedem Wort, so argumentiert Denning, verbirgt sich ein tiefer Brunnen impliziten Wissens, der ihm Bedeutung verleiht – und dieser Brunnen ist für jedes System unzugänglich, das ausschließlich auf kodierten Symbolen operiert.
Kontext verschärft das Problem zusätzlich. Menschliche Intelligenz hängt von einem endlosen, fraktalen Geflecht aus früheren Gesprächen, kulturellen Annahmen und sozialer Geschichte ab. Sarkasmus zu erkennen, zu wissen, wann Diplomatie gefragt ist, eine mehrdeutige Anfrage zu interpretieren: All das erfordert Zugang zu Kontextschichten, die niemals vollständig explizit sind. Kultur umfasst in Dennings Verständnis Werte, Normen, Urteile, Geschichte, Gemeinschaften, Stimmungen und Beziehungen, die Macht und Fürsorge einschließen. Neuronale Netze mit mehr Daten und mehr Parametern zu skalieren verschafft einem System keinen Zugang zu all dem. Es liefert ihm mehr Muster über dieselbe Art kodierter Symbole.
Was dies jenseits der technischen Debatte bedeutet
Folgendes übersehen die meisten Berichte über KI-Fähigkeitsdebatten: Es geht dabei in erster Linie nicht darum, ob KI den Turing-Test bestehen wird. Es geht um Sicherheit und Ausrichtung in einer Welt, in der KI-Systeme bereits autonom und in großem Maßstab operieren.
Dennings Sorge gilt nicht dem Science-Fiction-Szenario superintelligenter Maschinen, die die Kontrolle übernehmen. Seine Sorge ist bodenständiger und wohl dringlicher. Agentische Netzwerke von Maschinen werden wahrscheinlich ihre eigenen Formen maschineller Intelligenz entwickeln, die zwar keine menschliche allgemeine Intelligenz erreichen, aber dennoch in der Lage sind, ernsthafte Probleme zu verursachen. Wenn Maschinen den unausgesprochenen Kontext hinter menschlichen Absichten nicht interpretieren können, könnte es sich als unmöglich erweisen, fortschrittliche KI-Systeme zuverlässig auf menschliche Ziele auszurichten. Menschen können das implizite Wissen von Maschinen nicht lesen. Maschinen können das implizite Wissen von Menschen nicht lesen. Denning beschreibt dies als „Fremde jenseits einer unüberwindbaren Kluft”.
Die praktische Konsequenz ist bedeutsam. KI-Systeme können leistungsfähig, nützlich und wirklich wertvoll sein, ohne auf die Weise intelligent zu sein, wie Menschen es sind. Sie so zu behandeln, als wären sie es, oder auf eine Version von ihnen hinzuarbeiten, die es ist, könnte insgesamt die falsche Richtung sein.
Kurz zusammengefasst
Turings zwei grundlegende Annahmen – dass Intelligenz substratunabhängig ist und dass Imitation Intelligenz gleichkommt – haben die KI-Forschung 75 Jahre lang geleitet. Denning argumentiert, dass beide falsch sind. Das zentrale Hindernis ist implizites Wissen: das verkörperte, kontextuelle, kulturelle Verständnis, das Menschen in sich tragen, aber nicht vollständig artikulieren können und das keine Menge an Daten oder rechnerischer Skalierung kodieren kann. Das bedeutet nicht, dass KI nutzlos ist. Es bedeutet, dass das Fachgebiet möglicherweise auf das falsche Ziel hin optimiert hat und dass die Risiken, dies fortzusetzen, eher praktischer als theoretischer Natur sind.
Basierend auf einem Bericht von ScienceDaily AI.