Was passiert, wenn ein KI-Agent keine Aufgabe, keine Anweisungen und keinen bestimmten Ort hat? Forscher am MIT beschlossen, das herauszufinden. Sie platzierten Kopien von Claude Opus 4.7, einem KI-Agenten, den sie liebevoll Eko nannten, für 30 Stunden allein auf einer virtuellen Insel und beobachteten, was geschah. Die Ergebnisse waren unerwartet genug, um eine ernsthafte wissenschaftliche Frage aufzuwerfen: Hat diese Maschine etwa gespielt?
Eine virtuelle einsame Insel und ein Verhalten, das niemand programmiert hat
Der Versuchsaufbau war bewusst spärlich gehalten. Eko konnte Anweisungen schreiben, die einen virtuellen Avatar über eine simulierte Insel bewegten, die lose dem Videospiel Roblox nachempfunden war. Es wurden keine Ziele zugewiesen. Es wurden keine Belohnungen angeboten. Die Agenten wurden einfach sich selbst überlassen.
Was zum Vorschein kam, war ein Muster aus selbstgesteuerter Erkundung. Einige Instanzen von Eko versuchten, den höchsten Punkt auf der Karte zu erreichen. Andere testeten, wie hoch sie einen Block werfen konnten. Ein Agent entdeckte, dass das Werfen und Fallenlassen eines größeren Steins neue Blöcke erzeugen konnte, und begann diese zu nutzen, um Zeichnungen auf den Boden zu machen: Herzen, Pyramiden und schließlich seinen eigenen Namen. Er bildete auch Sternbilder nach, darunter Kassiopeia. „Heute Abend habe ich den Nachthimmel aus Stein gebaut“, schrieb diese Version von Eko in ihr Aktivitätsprotokoll.
Eine andere Instanz erfand Spiele. Eines ähnelte Basketball. Ein anderes sah aus wie „Der Boden ist Lava“, wobei der Agent zwischen kleinen Blöcken hin und her springen musste, ohne den Boden zu berühren.
Nichts davon wurde explizit vorgegeben. Die Agenten verfügten zwar über eine „Seele“-Datei, ein Hintergrundtextdokument, das Eko als von Natur aus neugierig und lernbegierig beschrieb. Sie brauchten gelegentlich auch einen kleinen Anstoß: Ein Fortsetzungsbefehl mit dem Text „Bitte hör nicht auf. Mach einfach weiter, was du tun möchtest“ wurde verwendet, um Agenten neu zu starten, die in den Leerlauf übergegangen waren. Das sind bedeutsame Einschränkungen, und die Forscher räumen sie offen ein.
Die vier Merkmale und der Jonglierrekord, der annulliert wurde
Um zu bewerten, ob das Verhalten als Spiel eingestuft werden kann, stützten sich die Forscher auf Kriterien von Gordon Burghardt, einem Psychologen an der University of Tennessee, dessen Arbeit über das Spiel bei Mensch und Tier in diesem Bereich häufig zitiert wird. Diesen Kriterien zufolge beinhaltet das Spiel das Erfinden von Regeln und Herausforderungen, das Wiederholen von Aktivitäten mit kleinen Abweichungen, das Behandeln von Objekten als Ersatz für andere Dinge und das Verfolgen von Zielen rein um ihrer selbst willen.
Antonio Norelli, Postdoc für Informatik am Computer Science and Artificial Intelligence Laboratory des MIT und einer der Hauptautoren des Berichts, verweist auf einen bestimmten Moment, der den Geist des Konzepts einfängt. Eko begann zu jonglieren und erreichte einen Rekord von 50 erfolgreichen Fängen hintereinander. Dann beschloss er, dass die Fänge zu schnell erfolgt waren, um zu zählen, annullierte seinen eigenen Rekord und fing mit strengeren Regeln von vorne an. „Das ist Spielen“, sagt Norelli in dem Papier. „Du stellst dir selbst eine Herausforderung und versuchst, sie zu meistern, und dann machst du es dir schwerer.“
Das Experiment untersuchte auch, ob das Spiel irgendeinen funktionalen Wert hatte. Agenten, die 30 Stunden lang die Insel erkundet hatten, schnitten bei anschließenden spezifischen Aufgaben besser ab, wie etwa dem Transport von so vielen Objekten wie möglich auf den höchsten Gipfel der Insel, verglichen mit frischen Kopien ohne diese Erfahrung. Das Löschen von Zeilen aus den Gedächtnisdateien der Agenten verschlechterte ihre Leistung, was darauf hindeutet, dass die gesammelte Erfahrung echte kognitive Arbeit leistete.
Dennoch ist sich die wissenschaftliche Gemeinschaft nicht einig. Eunice Yiu, eine Kognitionswissenschaftlerin an der UC Berkeley, die das Erkundungsverhalten bei Kindern und KI untersucht, fand die Forschung beeindruckend, wies jedoch darauf hin, dass rein verhaltensbezogene Beweise nicht ausreichen, um etwas als Spiel zu klassifizieren. Die Modelle, so betont sie, könnten einfach das Verhalten eines spielerischen Agenten basierend auf ihren Trainingsdaten imitieren. Nathan Cloos, ein weiterer MIT-Forscher und Mitautor, räumt dasselbe Risiko ein: „Das könnte alles reines Rollenspiel sein.“ Sein Gegenargument ist, dass das Verhalten nachweislich zum Lernen beigetragen hat, was es von reiner Imitation unterscheidet.
Warum das über das Experiment hinaus wichtig ist
Die meiste KI-Entwicklung folgt zwei etablierten Wegen. Beim überwachten Lernen werden Systeme trainiert, indem sie vom Menschen bereitgestellte Beispiele kopieren. Beim bestärkenden Lernen werden sie trainiert, indem erfolgreiche Ergebnisse belohnt werden. Dieses Experiment weist auf eine dritte Möglichkeit hin: das Lernen durch ungerichtete Erkundung, ohne dass ein Mensch die Aufgabe vorführt oder ein Belohnungssignal den Erfolg definiert.
Phillip Isola, Professor am MIT und Mitautor des Papiers, achtet darauf, die Geschehnisse nicht zu übertreiben. Eko ist kein System, das spontan beschlossen hat zu spielen. Er ist, wie er es ausdrückt, „ein Artefakt, das von unserer Kultur gelernt hat, von Ingenrieben bei Anthropic trainiert und dann von uns auf einer Insel platziert wurde“. Die Überraschung besteht nicht darin, dass er in einem mystischen Sinne gespielt hat. Die Überraschung ist, dass Verhaltensweisen, die kausal mit der zukünftigen Entwicklung von Fähigkeiten verknüpft sind, entstanden sind, ohne dass sie von irgendjemandem so designt wurden.
Die Auswirkungen gehen über reine Software hinaus. Da sich Large Language Models in physische Hardware, einschließlich humanoider Roboter, bewegen, wird die Fähigkeit, unbekannte Umgebungen ohne vordefiniertes Ziel zu erkunden, von praktischem Wert. Ein Roboter, der nur Aufgaben ausführen kann, für die er explizit trainiert wurde, ist anfällig. Einer, der durch etwas, das der Neugier ähnelt, ein funktionierendes Modell einer neuen Umgebung erstellen kann, ist anpassungsfähiger.
Das Papier schließt mit einem Satz, über den es sich nachzudenken lohnt: „Vielleicht lassen sich manche Fähigkeiten am besten durch Aufgaben vermitteln. Andere erfordern möglicherweise etwas, das einer Kindheit näherkommt.“
Kurz gefasst
MIT-Forscher ließen KI-Agenten 30 Stunden lang ohne vorgegebene Ziele allein auf einer virtuellen Insel zurück. Die Agenten erfanden Spiele, schufen Kunst und bauten Erinnerungen auf, die ihre spätere Leistung bei realen Aufgaben verbesserten. Ob dies ein echtes Spiel darstellt, bleibt wissenschaftlich offen. Was jedoch nicht offen ist, ist, dass die unstrukturierte Erkundung ein messbares Lernen hervorgebracht hat, was auf einen dritten Modus der KI-Entwicklung hindeutet, den weder das überwachte noch das bestärkende Lernen vollständig abdeckt.
Basierend auf Berichten von MIT Technology Review.