Un nouveau rapport indépendant apporte la preuve que les systèmes d’IA accélèrent désormais de manière significative leur propre développement, non pas dans le cadre d’un scénario futuriste et théorique, mais comme une réalité déjà mesurable au sein de l’un des principaux laboratoires d’IA au monde. Ces conclusions proviennent de METR, une organisation de recherche sur la sécurité de l’IA qui a passé onze semaines à enquêter sur les processus de recherche et développement d’Anthropic. Ce que le rapport montre, et ce qu’il ne peut délibérément pas montrer, revêt une importance égale.
Deux ans de progrès en un an : la découverte de l’accélération
Le chiffre phare de l’enquête de METR est frappant. Les modèles d’Anthropic s’améliorent environ deux fois plus vite qu’il y a un an. Les chercheurs de METR décrivent cette situation comme l’équivalent de “roughly two years of historical progress over the last year” (environ deux années de progrès historiques accomplies au cours de la dernière année), selon les scores obtenus sur les benchmarks.
Ce qui rend cette découverte significative, c’est l’explication qui se cache derrière. Historiquement, les progrès de l’IA ont été largement stimulés par la mise à l’échelle, c’est-à-dire en injectant davantage de puissance de calcul dans l’entraînement. Les chercheurs de METR ont déclaré être convaincus qu’il ne s’agit pas du principal moteur dans ce cas précis. Depuis le mois d’octobre, la majorité de l’accélération est attribuée à l’IA elle-même, et cette contribution n’a cessé de croître au fil du temps.
Les preuves de ce phénomène proviennent en partie d’enquêtes internes. Les employés d’Anthropic ont déclaré de manière autonome être environ 12 fois plus productifs en utilisant le modèle interne le plus performant de l’entreprise par rapport à un travail sans assistance de l’IA. Ce chiffre représentait environ le double de ce que le personnel avait rapporté quelques mois plus tôt seulement, lors de l’utilisation d’un modèle interne antérieur appelé Mythos 5. Il s’agit de données déclaratives qui comportent des limites inhérentes, mais la direction et l’ampleur de ce changement sont notables.
Pour l’instant, l’évaluation de METR indique que la majeure partie de cette accélération provient de l’IA assistant des chercheurs humains plutôt que d’une IA opérant de manière autonome. Les chercheurs n’ont pas trouvé de signes évidents de rendements décroissants ou de goulets d’étranglement évidents. Ils ont également averti que “there are some signs that fully autonomous contributions will play a larger role soon” (certains signes indiquent que des contributions entièrement autonomes joueront bientôt un rôle plus important).
Le problème des caviardages : ce que le public ne peut pas voir
Anthropic a donné à METR accès à des recherches confidentielles, à des données de performance sur les modèles et à des entretiens avec des employés. METR a reconnu que cela dépassait ce qui avait été initialement convenu. Cette transparence s’accompagne toutefois d’une réserve de taille.
Anthropic s’est réservé le droit de caviarder des portions du rapport final avant sa publication, et a largement exercé ce droit. METR a soumis un rapport d’une centaine de pages environ. Dans une publication sur X, METR a déclaré qu’Anthropic avait caviardé “la majorité des preuves que nous trouvions les plus instructives”. Les chercheurs ont souligné qu’une grande partie du matériel caviardé pouvait prêter à “plusieurs interprétations plausibles”, ce qui signifie que le public ne peut pas évaluer les preuves ni les incertitudes qui les entourent. Comme le formule le rapport, le public se retrouve à devoir compter sur le jugement de METR “much more than would be ideal, given the weight of the questions answered here” (bien plus que ne le souhaiterait l’idéal, compte tenu du poids des questions abordées ici).
Le cofondateur d’Anthropic, Sam McCandlish, a reconnu les caviardages dans une publication publique, les présentant comme un compromis délibéré. Selon son raisonnement explicite, la divulgation des moteurs spécifiques de l’accélération présenterait un caractère commercial sensible et pourrait fournir aux concurrents une feuille de route pour progresser plus rapidement, ce qui, selon lui, aggraverait les risques au lieu de les réduire. Anthropic a fait savoir qu’elle prévoyait de publier son propre rapport sur les progrès de l’IA dans les semaines à venir.
La question du caviardage dépasse le cadre de ce seul rapport. Les évaluations indépendantes confèrent un poids réputationnel aux entreprises qui les commandandent ou les autorisent. Lorsque ces évaluations sont substantiellement caviardées par le sujet de l’enquête, l’indépendance de la conclusion devient plus difficile à évaluer. METR a d’ailleurs souligné cette tension de manière directe.
Ce que l’auto-amélioration récursive implique réellement pour tout le monde
C’est l’aspect que la plupart des couvertures médiatiques du rapport minimisent. Le concept au cœur des découvertes de METR est l’auto-amélioration récursive : l’idée que les systèmes d’IA pourraient développer de manière autonome des successeurs de plus en plus performants, sans intervention humaine significative, compressant potentiellement des décennies de changement technologique en années, voire en mois.
Jusqu’à récemment, il s’agissait principalement d’une préoccupation théorique. Le rapport de METR fournit des preuves concrètes, bien que partielles, que les premiers stades de cette dynamique sont déjà à l’œuvre au sein d’au moins un grand laboratoire d’IA. Anthropic n’est pas seul : OpenAI a déclaré en septembre qu’elle “progresse fortement” vers la création d’un chercheur en IA capable de faire progresser la recherche sur le deep learning et l’alignement d’ici mars 2028.
L’implication plus large concerne le rythme du changement par rapport au rythme des travaux sur la sécurité. Si les systèmes d’IA accélèrent leur propre développement plus rapidement que les chercheurs ne peuvent évaluer les risques, l’écart entre la capacité et la compréhension se creuse. METR n’a trouvé aucun goulet d’étranglement observable qui ralentirait naturellement ce processus.
Il existe également une tension structurelle qu’il convient de nommer. Anthropic a été l’un des plus fervents défenseurs du développement responsable de l’IA, et son PDG Dario Amodei a publiquement appelé les laboratoires à ralentir. Le rapport de METR décrit une entreprise qui, dans le même temps, utilise l’IA pour progresser plus vite que jamais. Il ne s’agit pas nécessairement d’hypocrisie : cela peut refléter la conviction sincère qu’être à l’avant-garde est plus sûr que de céder sa place. C’est toutefois une tension que le public mérite de comprendre clairement.
En bref
L’IA accélère déjà son propre développement de manière mesurable, et non plus seulement en théorie. L’enquête de onze semaines menée par METR au sein d’Anthropic a révélé que les modèles de l’entreprise s’améliorent environ deux fois plus vite qu’il y a un an, l’IA elle-même étant identifiée comme le principal moteur. L’ensemble des preuves étayant cette conclusion a été en grande partie caviardé. Ce qui reste visible suffit à soulever de sérieuses questions quant à savoir si les cadres de sécurité du domaine suivent le rythme de la technologie qu’ils sont censés régir.
D’après un reportage de The Verge.