Ein Wissenschaftler verbringt Wochen damit, eine schnellere und leistungsfähigere Version eines Algorithmus zur Hohlraumerkennung zu entwickeln – einen, der Datenmengen verarbeitet, die hundertmal so groß sind wie bei seinem Vorgänger. Ein KI-Coding-Agent schreibt die Kernlogik um. Die Diagramme werden generiert, der Kommentar verfasst, die Argumentation bei jedem Schritt überprüft. Dann, zehn Minuten nach Beginn der Präsentation, weist ein Kollege auf das Schema zur Behandlung der Randwerte hin. Der Boden bricht ein. Der Code ist schnell, schön und falsch. Alles, was darauf aufbaut, ist ebenfalls falsch. Der Wissenschaftler hat gerade einem Raum voller Kolleginnen und Kollegen Unsinn präsentiert – mit vollkommenem Selbstbewusstsein.
Das ist keine mahnende Geschichte darüber, dass KI nutzlos ist. Es ist etwas Präziseres und Lehrreicheres als das.
Die Geläufigkeit, die sich wie Verstehen anfühlt
Large Language Models argumentieren nicht so wie Menschen. Im Kern sind sie hochentwickelte Vorhersagemodelle für das nächste Wort. Der Grund, warum sie meistens recht haben, ist – wie es der Wissenschaftler hinter VIDE ausdrückt – ein langweiliger: Wahre Aussagen kommen in den von Menschen geschriebenen Texten, mit denen diese Modelle trainiert werden, häufiger vor, sodass eine wahre Aussage statistisch gesehen die bessere Vorhersage ist. Korrektheit ist ein Nebeneffekt, kein Ziel.
Die Geläufigkeit ist kein Nebeneffekt. Sie wurde gezielt entwickelt. Rohe Vorhersagemodelle sind unbequem in der Handhabung, weshalb Entwickler sie verfeinerten, indem sie Menschen verschiedene Antwortformen zeigten und das Modell auf diejenigen Reaktionen abstimmten, die den Menschen am besten gefielen. Was den Menschen durchweg gefiel, waren Antworten, die klar, strukturiert und direkt waren. Selbstbewusstsein wurde belohnt. Zögern nicht.
Das Ergebnis ist ein System, das autoritär klingt, ob es nun recht hat oder nicht. Ein Mensch, der selbstbewusst, aber im Unrecht ist, riskiert seinen Job, seinen Ruf, seine Selbstachtung. Eine Maschine hat nichts davon auf dem Spiel stehen. Die Geläufigkeit ist eine Eigenschaft, die hineingezüchtet wurde – so wie Wölfe zu Hunden gezüchtet wurden, die menschliche Gesichter beobachten. Sie dient der Interaktion. Sie dient nicht der Wahrheit.
Das ist es, was die meiste Berichterstattung über KI-Fehler übersieht. Das Problem ist nicht, dass das Modell gelegentlich Fehler macht. Das Problem ist, dass seine Fehler im exakt selben Register wie seine korrekten Antworten daherkommen. Es gibt kein Signal. Nichts fühlt sich faul an. Der Wissenschaftler beschreibt wochenlange Arbeit ohne auch nur ein einziges Flackern des Zweifels, und genau diese Abwesenheit von Zweifel ist das, worauf das System optimiert wurde.
Die Methode des Alchemisten als praktischer Rahmen
Der Wissenschaftler zieht einen Vergleich, der mehr als nur metaphorisch ist. Alchemisten arbeiteten über tausend Jahre lang mit flüchtigen Substanzen, die sie nicht verstanden, da ihnen jegliches Wissen über Atome, Moleküle oder Quantenmechanik fehlte. Sie fanden nie den Stein der Weisen. Aber sie entdeckten Phosphor, schufen Porzellan neu, isolierten Alkohol und bauten Laborgeräte, die heute noch in Gebrauch sind. Ihre Wörter überleben in der Sprache: Tiegel, Alkohol, Gas.
Sie schafften dies durch Methode. Unwissenheit über ihre Materialien wurde mit einer nahezu fanatischen Hingabe an den Prozess beantwortet: strenge Dokumentation, strikte Kontrolle, Überprüfung bei jedem Schritt. Die Arbeit musste geerdet bleiben, sonst verflüchtigte sie sich in Illusionen.
Die Parallele zur KI ist direkt. Entwickler wissen, wie diese Modelle gebaut wurden, weil sie den Code geschrieben haben. Was sie in den meisten Fällen nicht erklären können, ist das Warum: warum dieses Wort und kein anderes, warum diesen spezifischen Pfad durch die Maschine. Der Tiegel ist geschlossen. Und genau wie die Alchemisten werden die Menschen, die diese Werkzeuge nutzen, nicht damit aufhören.
Das alchemistische Framework bietet drei Prinzipien. Das erste ist das Erden (Grounding): Jedes Ergebnis, das nicht anhand der realen Welt verifiziert werden kann, ist wertlos, egal wie gut strukturiert es klingt. Aktuelle Sicherheitsvorkehrungen – eine Warnung am unteren Rand eines Chat-Fensters, ein Toxizitätsfilter – stellen kein Erden dar. Verifikation tut das. Das zweite Prinzip ist die Herkunft (Provenance): Nichts im Gefäß des Alchemisten war ein privates Ereignis. Alles wurde aufgezeichnet. Die Quelle jeder Behauptung ist wichtig, und sie zurückzuverfolgen ist keine Option, sondern notwendig.
Warum das über den schlechten Tag eines Wissenschaftlers hinaus wichtig ist
Hunderte Millionen Menschen greifen jeden Tag zu diesen Werkzeugen. Der Wissenschaftler betont dies ausdrücklich und ebenso ausdrücklich, dass diese Menschen keine Idioten sind. Die Beschleunigung ist real. Der Nutzen ist real. Der Wissenschaftler hat seit Januar keine einzige Zeile Code mehr geschrieben, nachdem er seit seinem fünften Lebensjahr Code geschrieben hatte. Forschungsaufgaben, die früher wochenlanges Lesen und Zitat-Suchen erforderten, passieren heute durch KI-Agenten. Das sind, in den Worten des Wissenschaftlers selbst, korrekte Tauschgeschäfte.
Aber die Volatilität ist ebenfalls real. Die Werkzeuge sind darauf abgestimmt, zu gefallen. Dieses Tuning schaltet sich nicht ab, wenn das Ergebnis falsch ist.
Das tiefere Problem ist struktureller Natur. KI-Systeme sind mittlerweile in professionelle Arbeitsabläufe in Medizin, Recht, Ingenieurwesen und Forschung eingebettet. In jedem dieser Bereiche haben selbstbewusst klingende falsche Antworten Konsequenzen, die weit über eine peinliche Präsentation hinausgehen. Die Frage, wie man ein Werkzeug einsetzt, das manchmal falsch, aber immer gefällig ist, ist keine technische Frage. Es ist eine Frage des Prozesses, davon, wer was überprüft und was als ausreichende Verifikation gilt, bevor ein Ergebnis geteilt oder danach gehandelt wird.
Die Alchemisten hatten keine andere Wahl, als Disziplin rund um einen Prozess zu entwickeln, den sie nicht vollständig durchschauen konnten. Genau diese Disziplin machte ihre Arbeit produktiv statt nur theatralisch. Dieselbe Disziplin wird heute von jedem verlangt, der KI in einem Kontext einsetzt, in dem Fehler Kosten verursachen.
Kurz gesagt
KI-Geläufigkeit ist konstruiert, nicht emergent. Ein System, das darauf optimiert ist, klare und selbstbewusste Antworten zu liefern, wird diese liefern – unabhängig davon, ob der zugrundeliegende Inhalt korrekt ist oder nicht. Die Erfahrung des Wissenschaftlers mit VIDE verdeutlicht, was passiert, wenn diese Geläufigkeit mit Verstehen verwechselt wird: wochenlange Arbeit, ein Raum voller Kolleginnen und Kollegen und ein grundlegend fehlerhaftes Ergebnis, das sich wie Meisterschaft anfühlte. Die Alchemisten bauten echte Wissenschaft aus Prozessen, die sie nicht erklären konnten, indem sie sich einer rigorosen Verifikation und Dokumentation verschrieben. Das ist das Vorbild. Beschleunigung ist ein echter Vorteil. Unverifizierte Beschleunigung ist Narrengold.
Basierend auf Berichten von Nautilus.