Les systèmes d’IA modernes peuvent rédiger de la poésie, résoudre des problèmes complexes et tenir des conversations qui semblent remarquablement humaines. Pourtant, les chercheurs et les spécialistes des sciences cognitives qui étudient à la fois l’intelligence artificielle et l’esprit humain reviennent sans cesse à la même observation dérangeante: produire un résultat de type humain ne revient pas à penser de manière humaine. Cette distinction importe plus que la plupart des reportages sur l’IA ne tendent à le reconnaître.
Pourquoi prédire des mots ne revient pas à comprendre le monde
Les grands modèles de langage tels que ChatGPT, Claude, Google Gemini et Perplexity AI reposent sur un mécanisme faussement simple: ils apprennent à prédire le mot ou le fragment de texte suivant. Entraînés sur des quantités massives de données, ces systèmes deviennent extraordinairement compétents pour générer des suites plausibles à n’importe quelle phrase donnée.
Considérez une instruction comme “Une main heurte une tasse près du bord d’une table. La tasse…” Un modèle de langage bien entraîné complétera cela par quelque chose comme “bascule par-dessus le bord et tombe sur le sol.” La réponse est correcte. Mais le modèle y parvient en reconnaissant des motifs dans les données, et non en disposant d’un modèle interne de la gravité, des surfaces ou des conséquences physiques du mouvement. Il n’a jamais manipulé de tasse. Il n’a jamais senti une tasse glisser.
C’est ce que la plupart des couvertures médiatiques des capacités de l’IA ont tendance à passer sous silence. Le résultat ressemble à de la compréhension. Le processus qui se cache derrière est tout autre.
Modèles du monde: combler l’écart, sans le franchir
Une nouvelle famille d’approches en matière d’IA, communément appelée “modèles du monde”, tente d’aller plus loin. Plutôt que de prédire du texte, ces systèmes apprennent à anticiper la façon dont les situations évoluent et dont les actions les modifient. Ils peuvent apprendre à partir de vidéos, de simulations ou d’enregistrements de ce que les robots voient et font dans des environnements physiques.
Pour un robot domestique, un modèle du monde pourrait signifier apprendre qu’agripper une tasse trop fermement risque de la briser, ou qu’un mauvais mouvement pourrait la faire basculer. En intégrant les actions, le mouvement et les informations sensorielles, ces systèmes commencent à relier les prédictions aux conséquences physiques d’une manière que les purs modèles de langage ne font pas.
La comparaison avec la cognition humaine est ici instructive. Les humains s’appuient sur un mécanisme que les spécialistes des sciences cognitives décrivent à travers un cadre appelé traitement prédictif: le cerveau génère des attentes, les compare aux informations entrantes et s’ajuste lorsque les deux ne correspondent pas. Si vous attrapez une tasse que vous croyez pleine alors qu’elle est en réalité vide, votre main se soulève avec trop de force. Le décalage constitue une rétroaction immédiate. Il corrige le mouvement et met à jour l’estimation interne du poids de la tasse.
Les modèles du monde peuvent reproduire quelque chose de structurellement similaire. Ils peuvent apprendre d’une rétroaction sensorielle et ajuster leurs prédictions en conséquence. À mesure que cette recherche progresse, la ressemblance avec la cognition humaine pourrait devenir de plus en plus difficile à ignorer. Mais parvenir à la même prédiction ne révèle pas quel savoir la soutient ni comment ce savoir a été formé.
Ce qu’une tasse signifie réellement pour un esprit humain
C’est ici que l’écart le plus profond devient visible. Pour une personne, une tasse n’est pas simplement un objet cylindrique posé sur une table. Elle peut être saisie, elle est cassable, potentiellement trop chaude pour être tenue, elle vous appartient peut-être ou appartient à quelqu’un d’autre, elle est peut-être sur le point de tomber. La compréhension humaine relie les propriétés physiques d’un objet à un réseau dense d’actions possibles, de significations sociales et de conséquences anticipées.
Ce type de compréhension se développe tôt. Des études suggèrent que des nourrissons âgés de quelques mois seulement ont déjà des attentes fondamentales quant au comportement des objets physiques. Le psychologue du développement Jean Piaget a suggéré que les enfants construisent leurs connaissances en agissant sur le monde, devenant progressivement capables d’anticiper mentalement les conséquences sans avoir à exécuter physiquement chaque action.
En d’autres termes, l’apprentissage humain n’est pas seulement l’accumulation d’informations sur les objets. Il s’agit de l’intégration de l’expérience physique, de la rétroaction sensorielle, du contexte émotionnel et de la signification sociale au sein d’un modèle cohérent de la réalité. Prédire qu’une tasse va tomber ne capture qu’une infime partie de cette compréhension.
Les systèmes d’IA, même ceux qui utilisent des modèles du monde, apprennent à partir d’actions et de rétroactions sensorielles en plus des vidéos et des simulations. Ils peuvent interagir avec le monde de manière structurée. La question en suspens est de savoir comment ces interactions contribuent au type de connaissances qu’ils édifient et si ces connaissances ressemblent à la compréhension humaine dans autre chose que leurs résultats.
Pourquoi la distinction entre performance et processus importe
Il ne s’agit pas d’un débat philosophique abstrait. À mesure que les systèmes d’IA gagnent en efficacité pour reproduire les résultats de la cognition humaine, l’écart entre ce qu’ils produisent et la manière dont ils le produisent devient plus difficile à percevoir et plus facile à ignorer.
Cet écart a des conséquences pratiques. Un système qui prédit des résultats plausibles sans comprendre pourquoi ils se produisent peut obtenir de bons résultats dans des situations familières et échouer dans des situations inattendues. Un système qui semble comprendre la causalité physique peut simplement faire correspondre des motifs à un niveau suffisamment sophistiqué pour tromper les observateurs, y compris les personnes qui le déployant dans des environnements à fort enjeu.
Les chercheurs à l’origine de cette analyse le disent clairement: distinguer la performance du processus ne fera que gagner en importance à mesure que les capacités de l’IA croîtront. C’est un cadre utile pour quiconque réfléchit aux domaines où l’on peut faire confiance aux systèmes d’IA, à ceux où il convient d’augmenter le jugement humain grâce à eux, et à ceux où la compréhension humaine demeure véritablement irremplaçable.
En bref
Les systèmes d’IA, y compris les modèles de langage les plus avancés et les modèles du monde émergents, peuvent produire des résultats qui ressemblent fort au raisonnement humain. Ils ne perçoivent pas, n’apprennent pas et ne comprennent pas le monde de la même manière que les humains. Le mécanisme qui sous-tend des résultats similaires est fondamentalement différent. À mesure que ces systèmes gagnent en puissance, la capacité à faire la différence entre un système qui simule la compréhension et un système qui la possède réellement devient l’une des questions les plus cruciales du domaine.
D’après un reportage de The Conversation.
Lire l’étude originale.