Ein kurzer Test mit Bruchrechnung und Leseverständnis hat eines der beunruhigendsten Ergebnisse der jüngeren KI Forschung hervorgebracht. Nicht, weil er etwas Dramatisches offenbart, sondern weil er etwas Leises zeigt: Schon der kurze Kontakt mit einem KI Assistenten scheint die Bereitschaft eines Menschen zu verringern, es weiter zu versuchen, sobald dieser Assistent verschwunden ist.
Was das Experiment tatsächlich zeigte
Forscher unter der Leitung von Brian Christian von der University of California Berkeley entwarfen eine kontrollierte Studie und stellten sie auf der dritten jährlichen Conference on Language Modeling vor. Der Aufbau war einfach. Erwachsenen Teilnehmern wurde die Aufgabe gestellt, Gleichungen mit Brüchen zu lösen. Eine Gruppe hatte durchgehend Zugriff auf ein ChatGPT Fenster, während die andere ohne Hilfe arbeitete. Dann, nach der Hälfte des Tests, wurde der Chatbot der ersten Gruppe komplett weggenommen.
Die Ergebnisse waren eindeutig. Solange ChatGPT verfügbar war, löste die Gruppe, die es nutzte, mehr Aufgaben und übersprang weniger Fragen als die Kontrollgruppe. Dieser Teil ist zu erwarten. Der aufschlussreiche Moment kam, nachdem das Werkzeug verschwunden war. Die beiden Gruppen tauschten im Wesentlichen ihre Positionen: Diejenigen, die sich auf die KI verlassen hatten, fingen an, mehr Fragen zu überspringen und weniger zu lösen, während die Gruppe, die alleine gearbeitet hatte, ihre Leistung beibehielt.
Die Forscher wiederholten das Experiment daraufhin mit Leseverständnis Fragen aus SAT Prüfungen. Dasselbe Muster zeigte sich. Genauigkeit und Ausdauer sanken in der KI gestützten Gruppe, nachdem das Werkzeug entfernt worden war.
Christians eigene Zusammenfassung des Ergebnisses ist beachtenswert. Er beschrieb es als eine Situation, in der Systeme, die darauf ausgelegt sind, hilfreich zu sein, am Ende “auf eine Art und Weise hilfreich sind, die irgendwie nicht hilfreich ist”. Diese Spannung steht im Mittelpunkt dessen, worauf diese Forschung hinweist.
Das Problem des kochenden Froschs in der Bildung
Die Implikationen der Studie zeigen sich am deutlichsten, wenn man sie auf jüngere Lernende anwendet, und die Forscher selbst verwenden einen bestimmten Begriff, um das Risiko zu beschreiben: ein Problem des kochenden Froschs. Die Sorge ist nicht, dass eine einzige Testsitzung bleibenden Schaden anrichtet. Es ist die Befürchtung, dass eine dauerhafte KI Nutzung über Monate und Jahre hinweg allmählich die Motivation und Ausdauer untergräbt, die langfristiges Lernen ermöglichen. Bis diese Effekte sichtbar werden, so warnen die Forscher, sind sie möglicherweise kaum noch rückgängig zu machen.
Diese Einordnung knüpft direkt an eine politische Entscheidung an, die bereits umgesetzt wird. Die Schulen von New York City schränkten den KI Zugang für rund 600.000 Schülerinnen und Schüler von der Vorschule bis zur achten Klasse ein. Die Begründung von Schulkanzler Kamar Samuels war eindeutig: Kinder lernen am besten durch produktiven Kampf, durch Fehler machen und erneutes Versuchen. Kein KI Werkzeug kann diesen Prozess seiner Ansicht nach replizieren.
Was die Studie aus Berkeley diesem Argument hinzufügt, ist empirisches Gewicht. Die Sorge ist nicht länger rein philosophisch. Selbst in kurzen Testsitzungen, die in Minuten gemessen wurden, zeigte sich das Muster einer verringerten Ausdauer. Die Frage, die die Forschung aufwirft, lautet nicht, ob KI nützlich ist. Sie ist es offensichtlich, zumindest im Moment. Die Frage ist, was mit den kognitiven Gewohnheiten passiert, die durch Schwierigkeiten, Wiederholung und Scheitern entstehen, wenn diese Erfahrungen konsequenz umgangen werden.
Warum das über das Klassenzimmer hinaus wichtig ist
Die Studie konzentriert sich auf Schüler und Testbedingungen, aber die Implikationen gehen weiter. Die Forscher selbst deuten dies an, wenn sie die Frage nach KI Agenten aufwerfen, die darauf ausgelegt sind, Reibung aus alltäglichen Aufgaben zu entfernen, und nicht nur aus akademischen. Wenn der produktive Kampf, der Ausdauer aufbaut, beim Lernen wertvoll ist, ist es vernünftig zu fragen, ob er nicht auch beim professionellen Lösen von Problemen, bei kreativer Arbeit und bei Entscheidungsfindungen unter Unsicherheit wertvoll ist.
Genau das übersehen die meisten Berichte über KI Fähigkeiten meistens. Die Diskussion über KI Werkzeuge dreht sich fast ausschließlich um die Qualität der Ergebnisse: Liefert das Modell eine korrekte Antwort, schreibt es einen kohärenten Absatz, löst es die Gleichung? Die Studie aus Berkeley verschiebt den Blickwinkel. Sie fragt, was mit der Person passiert, die das Werkzeug nutzt, und zwar nicht nur im Moment, sondern danach. Die Leistung während KI gestützter Aufgaben sah besser aus. Die Leistung nach dem Entfernen des Werkzeugs sah schlechter aus.
Diese Asymmetrie ist für jeden wichtig, der darüber nachdenkt, wie sich KI in Arbeitsabläufe, Bildungssysteme oder individuelle Gewohnheiten einfügt. Ein Werkzeug, das die kurzfristige Leistung verbessert und gleichzeitig die zugrundeliegende Kapazität verringert, die diese Leistung erzeugt, ist nicht einfach nur vorteilhaft. Es ist ein Kompromiss, und zwar einer, der meist unsichtbar bleibt, bis das Werkzeug nicht mehr verfügbar ist.
Die Studie plädiert nicht dafür, KI Unterstützung zu meiden. Sie argumentiert, dass die Auswirkungen dieser Unterstützung auf die menschliche Kognition ernsthafte Aufmerksamkeit verdienen und dass sich diese Auswirkungen auf eine Weise anhäufen können, die nur langsam sichtbar und schwer rückgängig zu machen ist.
Kurz gesagt
Eine kontrollierte Studie, die auf der Conference on Language Modeling vorgestellt wurde, ergab, dass Erwachsene, die während eines Tests ChatGPT nutzten, weniger ausdauernd und ungenauer wurden, sobald das Werkzeug entfernt wurde, verglichen mit denen, die ohne es gearbeitet hatten. Der Effekt zeigte sich sowohl bei Mathe als auch bei Leseverständnis Aufgaben. Forscher beschreiben das Risiko für jüngere Lernende als ein Problem des kochenden Froschs: eine schrittweise Erosion der Motivation und Ausdauer, die das Lernen antreiben, wobei sich dies über Jahre hinweg summiert, bevor es sichtbar wird. Das Kernproblem ist nicht, ob KI im Moment gute Ergebnisse liefert. Es ist das, was die wiederholte Abhängigkeit von diesen Ergebnissen mit der menschlichen Kapazität macht, die übrig bleibt, wenn das Werkzeug weg ist.
Basierend auf Berichten von Nautilus.