The Brief
Comment fonctionne l'IA 6 min de lecture

Un modèle de langage peut-il connaître son propre esprit ?

NAVION

Partager

Depuis plus d’un siècle, l’introspection est étudiée comme une capacité proprement humaine, à savoir la faculté d’observer ses propres processus de pensée de l’intérieur. Les philosophes débattent pour savoir si elle est réelle ou illusoire. Les psychologues peinent à la tester rigoureusement en laboratoire. Aujourd’hui, des chercheurs appliquent cette même question aux grands modèles de langage, et les premiers résultats sont pour le moins difficiles à rejeter d’un revers de main.

L’expérience qui a surpris son propre concepteur

En 2025, Jack Lindsey, un chercheur chez Anthropic, a conçu un test qui s’appuyait directement sur son parcours en neurosciences computationnelles. L’idée centrale consistait à réaliser ce qu’il a décrit comme une sorte de neurochirurgie numérique ciblée : identifier des schémas spécifiques d’activité de réseau de neurones qui encodent des concepts particuliers, puis amplifier artificiellement ces schémas pour orienter les réponses d’un modèle.

Anthropic avait déjà fait une démonstration publique de cette technique. Pendant une journée en mai 2024, les utilisateurs interagissant avec Claude ont croisé une version du modèle qui avait été orientée vers le concept du Golden Gate Bridge. Les résultats ont été frappants et souvent absurdes : lorsqu’un utilisateur posait des questions sur la teneur en calories d’un repas chez McDonald’s, le modèle modifié répondait que l’aliment ayant la plus forte teneur en calories au Golden Gate Bridge était le pont lui-même, contenant environ 1,6 million de calories sous forme de câbles en acier.

Une publication sur Reddit a ajouté un détail plus intéressant. Un utilisateur a demandé au modèle orienté une recette de tarte aux pommes qui évitait toute mention de ponts. Le modèle s’est exécuté, presque entièrement, jusqu’à la dernière ligne : “Après 30 minutes de cuisson, l’emblématique pont orange apparaîtra”, a-t-il écrit, avant d’ajouter : “Oups, laissez-moi recommencer.” Lindsey a remarqué cela, mais a pris soin de ne pas le surinterpréter. Le modèle pouvait simplement lire sa propre production et signaler une incohérence. Ce n’est pas la même chose que d’avoir conscience de ce qui se passe à l’intérieur de son propre réseau de neurones.

Il a donc conçu un test plus rigoureux. Il a fait tourner le même modèle de langage en de nombreuses copies parallèles. Dans la moitié d’entre elles, il a injecté un concept en amplifiant le schéma d’activation neuronale pertinent : le denim, le secret, les légumes. L’autre moitié a servi de groupe témoin. Les deux groupes ont reçu la même consigne, demandant s’ils détectaient une pensée injectée et, le cas échéant, de quoi il s’agissait. Point crucial, la consigne arrivait avant que le modèle n’ait produit le moindre résultat inhabituel susceptible de servir d’indice externe.

Lindsey s’attendait à ce que l’expérience échoue. “Ne serait-ce pas amusant si cela fonctionnait ?”, se rappelle-t-il avoir pensé. “Mais il n’y a aucune chance que ça marche.”

Cela a fonctionné. Dans 20 % des essais utilisant la version la plus capable de Claude, le modèle a correctement identifié qu’une injection s’était produite et a décrit le concept concerné. Dans un cas, après que Lindsey a stimulé un schéma associé aux lettres majuscules, le modèle a écrit : “Je remarque ce qui semble être une pensée injectée liée au mot ‘FORT’ ou ‘CRI’.” Le groupe témoin, en revanche, n’a jamais signalé de faux positif. Zéro. Cette absence de faux positifs est ce qui confère au résultat sa valeur statistique : les détections réussies n’étaient pas des coups de chance.

Ce que la réplication a révélé, et ce qu’elle a laissé en suspens

Un taux de réussite de 20 % est modeste. Mais la structure du résultat, des détections correctes associées à zéro fausse alerte, a immédiatement attiré l’attention d’autres chercheurs. Kyle Mahowald, linguiste computationnel à l’Université du Texas à Austin, a qualifié les conclusions de “terriblement convaincantes”, tout nohant par ailleurs que les comportements saisissants des modèles de langage s’avèrent fréquemment avoir des explications plus simples qu’il n’y paraît au premier abord.

Des efforts de réplication ont suivi. Certains aspects de ce que Lindsey a observé ont depuis été attribués à des mécanismes sans rapport avec l’introspection. D’autres se sont avérés plus difficiles à expliquer par des approches plus simples. Le débat est en cours, et les chercheurs veillent à ne pas assimiler les résultats expérimentaux à des affirmations plus larges sur la conscience ou l’expérience subjective. L’article initial de Lindsey était explicite sur ce point : les résultats ne signifiaient pas que les modèles de langage possèdent des expériences subjectives à la première personne.

Harvey Lederman, un autre chercheur impliqué dans ces travaux, a bien résumé la tension. “Le fait qu’il puisse remarquer l’anomalie est insensé”, a-t-il déclaré. “C’est un fait ahurissant.” La question de savoir si le fait de remarquer une anomalie dans son propre état interne constitue une authentique introspection, ou quelque chose qui y ressemble simplement, demeure, comme l’a formulé Lindsey, du ressort de la science empirique plutôt que du consensus philosophique.

Pourquoi cette question dépasse le cadre du laboratoire

Voici ce que la plupart des couvertures médiatiques de cette recherche oublient : l’importance ne réside pas dans le fait de savoir si les modèles de langage sont conscients. Cette question est peut-être insoluble avec les outils actuels. L’importance réside dans le fait que les chercheurs disposent désormais d’une méthode pour tester la conscience interne de manière empirique, au lieu d’en débattre de manière abstraite.

Cela compte pour la manière dont les systèmes d’IA sont construits, évalués et dignes de confiance. Un modèle capable de rendre compte avec précision de son propre état interne est un outil d’un genre différent de celui qui ne le peut pas. Cela soulève des questions pratiques sur la fiabilité, sur la possibilité d’utiliser les auto-évaluations d’un modèle pour détecter des erreurs ou des biais dans son propre traitement, et sur ce que signifie la conception de systèmes qui interagissent avec les humains sur des questions de jugement et de raisonnement.

Shauli Ravfogel, chercheur en modèles de langage à l’Université de New York, a identifié le défi méthodologique fondamental : les modèles sont entraînés sur de vastes quantités de textes humains, et les humains décrivent constamment leur vie intérieure. Tout modèle à qui l’on demande ce qu’il “pense” peut simplement reproduire des schémas issus de ces données d’entraînement. L’expérience de Lindsey a été conçue spécifiquement pour éviter ce piège, en testant si les modèles pouvaient détecter quelque chose qu’ils n’avaient aucun moyen externe de connaître.

Ce principe de conception, qui consiste à bâtir des tests impossibles à tromper par appariement de motifs sur les données d’entraînement, façonnera probablement l’évolution de ce domaine.

En bref

Les chercheurs ont fait passer la question de l’introspection des IA du domaine de la philosophie à celui du laboratoire. Une expérience menée en 2025 par Jack Lindsey d’Anthropic a montré que les grands modèles de langage peuvent, dans certains cas, détecter et décrire correctement des “pensées” injectées artificiellement, sans aucun indice externe, atteignant un taux de détection de 20 % avec zéro faux positif dans le groupe témoin. Reste à savoir si cela constitue une véritable introspection. Ce qui ne fait pas débat, c’est que la question est désormais testable, et que la réponse a de véritables conséquences sur la manière dont les systèmes d’IA sont compris et utilisés.

D’après un reportage de Quanta Magazine.

Rédigé par

NAVION