The Brief
Wie KI funktioniert 5 Min. Lesezeit

KI beschleunigt KI: Was der Bericht von Anthropic wirklich offenbart

NAVION

Teilen

Ein neuer, unabhängiger Bericht hat Beweise dafür zutage gefördert, dass KI-Systeme ihre eigene Entwicklung inzwischen spürbar beschleunigen, und zwar nicht als theoretisches Zukunftsszenario, sondern als etwas, das bereits in einem der weltweit führenden KI-Labore messbar ist. Die Erkenntnisse stammen von METR, einer Forschungsorganisation für KI-Sicherheit, die elf Wochen lang die Forschungs- und Entwicklungsprozesse von Anthropic untersucht hat. Was der Bericht zeigt und was er bewusst nicht zeigen kann, ist von gleichermaßen großer Bedeutung.

Zwei Jahre Fortschritt in einem: Die Beschleunigung

Die Schlagzeile aus der Untersuchung von METR ist auffällig. Die Modelle von Anthropic verbessern sich etwa doppelt so schnell wie vor einem Jahr. Die Forscher von METR beschrieben dies basierend auf Benchmark-Ergebnissen als “ungefähr zwei Jahre historischen Fortschritt im letzten Jahr”.

Was diesen Befund bedeutsam macht, ist die dahinter stehende Erklärung. Historisch gesehen wurde der KI-Fortschritt größtenteils durch Skalierung angetrieben, also durch den Einsatz von mehr Rechenleistung beim Training. Die Forscher von METR erklärten, sie seien sich sicher, dass dies hier nicht der Haupttreiber ist. Seit Oktober ist der Großteil der Beschleunigung der KI selbst zuzuschreiben, und dieser Beitrag ist im Laufe der Zeit gewachsen.

Die Belege dafür stammen teilweise aus internen Umfragen. Mitarbeiter von Anthropic gaben in Selbstauskünften an, mit dem leistungsfähigsten internen Modell des Unternehmens etwa zwölfmal so produktiv zu sein wie bei der Arbeit ohne KI-Unterstützung. Dieser Wert war etwa doppelt so hoch wie das, was die Mitarbeiter wenige Monate zuvor bei der Nutzung eines früheren internen Modells namens Mythos 5 berichtet hatten. Dies sind selbst gemeldete Zahlen, die inhärente Einschränkungen mit sich bringen, aber die Richtung und das Ausmaß der Veränderung sind bemerkenswert.

Im Moment lautet die Einschätzung von METR, dass ein Großteil dieser Beschleunigung darauf zurückzuführen ist, dass KI menschliche Forscher unterstützt, anstatt dass KI eigenständig agiert. Die Forscher fanden keine klaren Anzeichen für sinkende Erträge oder offensichtliche Engpässe. Sie warnten jedoch auch, dass “es einige Anzeichen dafür gibt, dass voll autonome Beiträge bald eine größere Rolle spielen werden”.

Das Problem der Schwärzungen: Was die Öffentlichkeit nicht sehen kann

Anthropic gewährte METR Zugang zu vertraulicher Forschung, Daten zur Modellleistung und Mitarbeiterinterviews. METR räumte ein, dass dies über das ursprünglich Vereinbarte hinausging. Diese Transparenz hat jedoch einen erheblichen Haken.

Anthropic behielt sich das Recht vor, Teile des Abschlussberichts vor der Veröffentlichung zu schwärzen, und machte von diesem Recht ausgiebig Gebrauch. METR reichte einen Bericht von etwa 100 Seiten ein. In einem Beitrag auf X erklärte METR, Anthropic habe “einen Großteil der Beweise geschwärzt, die wir für am aussagekräftigsten hielten”. Die Forscher wiesen darauf hin, dass ein Großteil des geschwärzten Materials “mehrere plausible Interpretationen” haben könnte, was bedeutet, dass die Öffentlichkeit die Beweise oder die damit verbundenen Unsicherheiten nicht bewerten kann. Wie es im Bericht heißt, ist die Öffentlichkeit darauf angewiesen, sich auf das Urteil von METR zu verlassen, “und zwar viel mehr als ideal wäre, wenn man das Gewicht der hier beantworteten Fragen bedenkt”.

Der Mitbegründer von Anthropic, Sam McCandlish, räumte die Schwärzungen in einem öffentlichen Beitrag ein und stellte sie als bewussten Kompromiss dar. Seine begründete Argumentation: Die Veröffentlichung der spezifischen Treiber der Beschleunigung wäre kommerziell sensibel und könnte Wettbewerbern einen Leitfaden geben, um sich schneller zu bewegen, was seiner Ansicht nach die Risiken verschlimmern und nicht verbessern würde. Anthropic hat angekündigt, in den kommenden Wochen einen eigenen Bericht über den KI-Fortschritt zu veröffentlichen.

Das Problem der Schwärzungen geht über diesen spezifischen Bericht hinaus. Unabhängige Bewertungen haben für die Unternehmen, die sie in Auftrag geben oder zulassen, rufschädigendes Gewicht. Wenn diese Bewertungen von dem Untersuchungsobjekt erheblich geschwärzt werden, wird die Unabhängigkeit des Befundes schwerer zu bewerten. METR hat diese Spannung selbst direkt angesprochen.

Was rekursive Selbstverbesserung für alle wirklich bedeutet

Dies ist der Punkt, den die meiste Berichterstattung über den Bericht herunterspielt. Das Konzept im Zentrum der Ergebnisse von METR ist die rekursive Selbstverbesserung, also die Idee, dass KI-Systeme autonom immer leistungsfähigere Nachfolgesysteme entwickeln könnten, ohne nennenswertes menschliches Eingreifen, wodurch möglicherweise Jahrzehnte des technologischen Wandels in Jahre oder sogar Monate komprimiert werden.

Bis vor Kurzem war dies weitgehend ein theoretisches Bedenken. Der METR-Bericht liefert konkrete, wenn auch partielle Beweise dafür, dass die frühen Stadien dieser Dynamik bereits in mindestens einem großen KI-Labor im Gange sind. Anthropic ist nicht allein: OpenAI erklärte im September, dass es “starke Fortschritte” bei dem Bau eines KI-Forschers macht, der in der Lage ist, die Deep-Learning- und Ausrichtungsforschung bis März 2028 voranzutreiben.

Die breitere Implikation betrifft das Tempo des Wandels im Verhältnis zum Tempo der Sicherheitsarbeit. Wenn KI-Systeme ihre eigene Entwicklung schneller beschleunigen, als Forscher die Risiken bewerten können, vergrößert sich die Kluft zwischen Fähigkeiten und Verständnis. METR fand keine beobachtbaren Engpässe, die dies auf natürliche Weise verlangsamen würden.

Es gibt auch eine strukturelle Spannung, die es wert ist, benannt zu werden. Anthropic gehört zu den lautstärksten Befürwortern einer verantwortungsvollen KI-Entwicklung, und CEO Dario Amodei hat öffentlich gefordert, dass Labore langsamer vorgehen sollten. Der METR-Bericht beschreibt ein Unternehmen, das gleichzeitig KI nutzt, um sich schneller denn je zu bewegen. Das ist nicht unbedingt Heuchelei: Es spiegelt möglicherweise die echte Überzeugung wider, dass es sicherer ist, an der Grenze zu sein, als sie abzugeben. Aber es ist eine Spannung, die die Öffentlichkeit klar verstehen muss.

Kurz gefasst

KI beschleunigt ihre eigene Entwicklung bereits auf messbare Weise, und das nicht nur in der Theorie. Die elfwöchige Untersuchung von METR innerhalb von Anthropic ergab, dass sich die Modelle des Unternehmens etwa doppelt so schnell verbessern wie vor einem Jahr, wobei die KI selbst als Haupttreiber identifiziert wurde. Die vollständigen Beweise für diesen Befund wurden erheblich geschwärzt. Was sichtbar bleibt, reicht aus, um ernsthafte Fragen aufzuwerfen, ob die Sicherheitsrahmenwerke des Bereichs mit der Technologie Schritt halten, die sie regeln sollen.

Basierend auf Berichten von The Verge.

Geschrieben von

NAVION