Une question se trouve au centre de presque tous les débats sérieux concernant l’intelligence artificielle : lorsqu’un LLM produit une réponse, est-il réellement en train de raisonner, ou génère-t-il simplement du texte qui ressemble à du raisonnement ? La distinction n’a rien d’académique. Elle façonne les tâches qu’il est possible de confier à l’IA, le niveau de supervision humaine requis et les conséquences réelles du déploiement de ces systèmes.
Melanie Mitchell, spécialiste des sciences cognitives et informaticienne au Santa Fe Institute, soutient que le domaine manque actuellement de méthodes adéquates pour répondre à cette question avec rigueur. Sa position est à la fois une critique et un programme de recherche, et elle puise son inspiration dans une source surprenante : l’étude scientifique des bébés et des animaux.
L’IA comme intelligence extraterrestre, et pourquoi ce cadre change tout
Melanie Mitchell décrit l’IA comme une forme d‘“intelligence extraterrestre”. L’expression est précise, non poétique. Ces systèmes ont été entraînés sur de vastes quantités de langage, d’images et de textes générés par des humains à travers tout Internet, pourtant leur façon d’apprendre, de traiter l’information et de produire des résultats est fondamentalement différente de la cognition humaine. La ressemblance superficielle avec le raisonnement humain est réelle. Le mécanisme sous-jacent ne l’est pas.
Cela pose un problème de mesure. La plupart des évaluations actuelles des capacités de l’IA sont conçues pour tester les performances sur des tâches, et non pour sonder les processus cognitifs derrière ces performances. Un système peut obtenir de bons résultats sur un benchmark sans accomplir quoi que ce soit qui ressemble à ce qu’un humain fait pour résoudre le même problème. C’est dans cet écart entre le résultat et le processus que résident les questions difficiles.
Ce que propose Melanie Mitchell, c’est que les chercheurs en IA se tournent vers des disciplines qui ont déjà aux prises avec ce défi précis. Les psychologues du développement étudient la façon dont les nourrissons acquièrent l’intelligence sans pouvoir les interroger directement. Les psychologues comparatistes étudient la cognition chez les oiseaux, les chiens et les dauphins, dont aucun ne peut expliquer ses propres processus mentaux. Ces deux domaines ont développé des méthodologies expérimentales pour inférer ce qui se passe à l’intérieur d’un esprit depuis l’extérieur. Melanie Mitchell soutient que ces méthodes peuvent et doivent être adaptées pour étudier les systèmes d’IA.
Le problème du Hans malin : un avertissement vieux d’un siècle
L’un des exemples les plus instructifs soulevés par Melanie Mitchell date du début des années 1900 : un cheval nommé Hans le Malin, célèbre à l’époque pour être apparemment capable d’effectuer des calculs mathématiques. Le public était stupéfait. Des enquêteurs ont fini par découvrir que le cheval ne faisait pas du tout d’arithmétique. Il lisait des indices physiques subtils et involontaires chez les humains autour de lui, des indices signalant quand il fallait arrêter de taper du sabot. Le cheval réagissait véritablement à quelque chose, mais pas à ce que tout le monde supposait.
Le parallèle avec l’évaluation de l’IA est direct. Lorsqu’un modèle de langage produit une réponse correcte, les observateurs ont tendance à attribuer ce succès au processus cognitif qu’ils utiliseraient pour parvenir à la même réponse. Mais le modèle réagit peut-être à des signaux entièrement différents dans l’entrée, à des motifs dans ses données d’entraînement, à des régularités statistiques qui n’ont rien à voir avec la chaîne de raisonnement que la sortie semble décrire. Sans une conception expérimentale minutieuse, il est facile de se faire avoir de la même manière que le public s’est fait avoir par Hans le Malin.
Ce n’est pas une préoccupation hypothétique. C’est le défi méthodologique fondamental que Melanie Mitchell et d’autres chercheurs en sciences cognitives incitent le domaine de l’IA à prendre au sérieux. Mike Frank, à Stanford, a écrit sur la manière dont les chercheurs en IA pourraient s’inspirer de la psychologie du développement précisément pour cette raison, et Melanie Mitchell étend cet argument à la cognition animale également. Le domaine réfléchit à la manière d’étudier les esprits qu’il ne peut interroger directement depuis au moins cent ans, comme le note Melanie Mitchell. Cette connaissance accumulée reste largement inexploitée dans la recherche dominante en IA.
Pourquoi cela compte au-delà du laboratoire
Les enjeux vont bien au-delà de la méthodologie académique. Si les outils utilisés pour évaluer les systèmes d’IA sont systématiquement trompeurs, alors les décisions prises sur la base de ces évaluations, concernant le déploiement, la confiance et le niveau de supervision humaine requis, reposent sur des bases fragiles.
Melanie Mitchell souligne que la communauté de l’IA elle-même est polarisée sur cet axe. Certains croient que les systèmes actuels ont surpassé l’intelligence humaine de manière significative. D’autres estiment qu’ils restent loin de tout ce qui ressemble à une cognition de type humain. Ce désaccord n’est pas qu’une simple question d’opinion. Il reflète une absence réelle de méthodes partagées et rigoureuses pour mesurer ce que ces systèmes font réellement.
C’est ce que la plupart des reportages sur les capacités de l’IA manquent. Le débat ne porte pas principalement sur le fait de savoir si l’IA est impressionnante. Elle l’est clairement. Le débat porte sur le point de savoir si le domaine dispose des outils scientifiques nécessaires pour savoir ce qu’il mesure lorsqu’il évalue les performances de l’IA. L’argument de Melanie Mitchell est que ce n’est pas le cas, pas encore, et que la construction de ces outils nécessite d’emprunter à des disciplines qui résolvent discrètement des problèmes connexes depuis très longtemps.
Des systèmes d’IA sont déjà utilisés pour assister dans des tâches lourdes de conséquences, y compris, comme le soulignent Melanie Mitchell et ses intervieweurs, de récentes avancées en mathématiques. La question de savoir ce que ces systèmes font réellement lorsqu’ils réussissent n’est pas un luxe philosophique. C’est un prérequis pratique pour savoir quand leur faire confiance.
En bref
Évaluer l’intelligence de l’IA exige plus que de tester si un système obtient la bonne réponse. Les sciences cognitives et la psychologie du développement offrent des cadres expérimentaux pour sonder ce qui se passe réellement à l’intérieur d’un esprit, des cadres que le domaine de l’IA a largement ignorés. Sans de meilleures méthodes de mesure, le domaine risque de répéter l’erreur de Hans le Malin : prendre une performance convaincante pour la réalité.
D’après un reportage de Quanta Magazine.