En mars 2016, un programme jouant au Go a réalisé un coup si inattendu que les commentateurs ont cru à un bug. Ce n’en était pas un. Ce moment unique, désormais connu sous le nom de coup 37, est devenu l’un des événements les plus cités de l’histoire de l’IA. Pourtant, près d’une décennie plus tard, l’architecture qui l’a rendu possible est largement absente des systèmes d’IA que les gens utilisent tous les jours. Ce fossé compte plus que ne le reconnaissent la plupart des couvertures médiatiques.
Ce qu’AlphaGo a réellement fait, et pourquoi c’était différent
Le Go n’est pas les échecs. Lorsque Deep Blue a battu Garry Kasparov en 1997, il l’a fait en évaluant jusqu’à 200 millions de positions d’échecs par seconde grâce à des règles écrites par des humains. Le Go fonctionne à une échelle de complexité totalement différente, car calculer ne serait-ce qu’une fraction de ses résultats possibles prendrait des milliards d’années à un superordinateur. Pour gagner, un programme ne peut pas simplement calculer sa trajectoire. Il doit évaluer le plateau d’un seul coup d’œil et, à l’occasion, inventer des coups qu’aucun humain n’a envisagés.
AlphaGo a résolu ce problème grâce à deux composants distincts travaillant ensemble. Le premier était un réseau de politique entraîné à prédire ce qu’un joueur humain fort ferait. Ce réseau a estimé que le coup 37 avait environ une chance sur 10 000 d’être joué par un expert. Le second composant était un mécanisme de recherche qui construisait et explorait explicitement un arbre de jeu avec des milliers de branches, chacune représentant un futur possible différent. C’est cette machinerie de recherche, et non le réseau intuitif, qui a identifié le coup 37 comme étant le bon choix.
Cela correspond à un cadre bien connu des sciences comportementales, associé à Daniel Kahneman, qui distingue la pensée rapide et automatique de la pensée lente et délibérée. AlphaGo incarnait les deux, puisque les réseaux fournissaient les intuitions et la recherche fournissait l’examen minutieux. Aucun des deux ne fonctionnait sans l’autre.
Ce que font les LLM à la place
Les systèmes d’IA dominants d’aujourd’hui, les LLM, fonctionnent sur un principe fondamentalement différent. Ils prédisent le token suivant dans une séquence, encore et encore. C’est rapide, associatif et remarquablement efficace pour compléter des motifs sur une gamme énorme de sujets. Il s’agit, selon les termes ci-dessus, de pure pensée rapide.
Le domaine a reconnu tôt que la seule aisance ne suffisait pas. La réponse a été une technique appelée chaîne de pensée, où au lieu de répondre immédiatement, les modèles génèrent des étapes intermédiaires qui décomposent un problème avant de s’engager sur une réponse. Les gains sont réels, en particulier en mathématiques et en programmation. Mais les étapes intermédiaires sont toujours produites par le même processus de prédiction du token suivant. Il n’y a pas de mécanisme de raisonnement séparé. La délibération est simulée, et non structurelle.
Trois lacunes spécifiques découlent de cela. Premièrement, ces modèles ne maintiennent aucun enregistrement explicite et inspectable de ce qu’ils croient, de ce dont ils doutent et des questions qui restent ouvertes. Il n’y a pas d’équivalent de l’arbre de jeu d’AlphaGo, aucune structure qui soit mise à jour à mesure que de nouvelles informations arrivent. Deuxièmement, la connaissance et le raisonnement sont fusionnés à l’intérieur des poids du réseau de neurones. Il n’y a pas de séparation nette entre ce que le système sait et la façon dont il manipule cette connaissance. Troisièmement, et c’est peut-être le plus troublant, la recherche a montré que les chaînes de raisonnement produites par ces modèles sont souvent construites après coup. Le modèle arrive à une réponse par un chemin et en rapporte un autre.
Pourquoi c’est important au-delà des détails techniques
Dans les environnements à faible enjeu, ces limites sont gérables. Un chatbot qui fabrique occasionnellement son raisonnement est un inconvénient. En médecine, en ingénierie ou en recherche scientifique, le même échec est un problème d’un autre genre.
Lorsqu’un système commet une erreur dans un domaine à hauts enjeux, la capacité à retracer cette erreur n’est pas facultative. Le raisonnement était-il erroné ? Les preuves étaient-elles invalides ? Les hypothèses étaient-elles fausses ? Un système sans état épistémique persistant et inspectable ne peut pas répondre à ces questions, car il n’en a jamais entretenu. La sortie existe, mais le raisonnement qui l’a produite n’existe pas, du moins pas sous une forme qui peut être audaudité.
L’auteur de l’article source, qui a travaillé sur AlphaGo et a récemment quitté Google DeepMind, soutient que la voie à suivre nécessite de construire des systèmes qui maintiennent un état épistémique explicite, à savoir un enregistrement structuré de ce qui est établi, de ce qui est incertain, de ce qui a été exclu et des questions qui restent ouvertes. Le raisonnement, dans cette vision, est une séquence de coups qui met à jour cet état, guidée par un mécanisme d’évaluation indépendant qui n’accepte que les changements étayés par des preuves. L’analogie proposée est la méthode scientifique, appliquée systématiquement et à grande échelle.
L’échelle à elle seule ne résout pas ce problème. Agrandir un système à pensée rapide aiguise ses intuitions mais ne le rend pas délibéré. Le coup 37 n’était pas le produit d’un plus grand réseau de politique. C’était le produit d’un système qui tenait une position, modélisait des futurs possibles et choisissait le coup que ses propres instincts auraient rejeté.
En bref
Le célèbre coup d’AlphaGo n’était pas de l’intuition de machine. C’était du raisonnement de machine, construit sur une architecture que l’IA d’aujourd’hui n’utilise guère. Les LLM sont de puissants moteurs de complétion de motifs, mais ils ne maintiennent pas de croyances inspectables, ne séparent pas la connaissance de l’inférence et reconstruisent souvent leur raisonnement après coup. Pour les applications où le chemin menant à une conclusion compte autant que la conclusion elle-même, il s’agit d’une limite structurelle, et non temporaire.
D’après un reportage de MIT Technology Review.