Une abeille qui butine dans un jardin et un chatbot qui discute du sens de l’existence semblent appartenir à des catégories de réalité entièrement différentes. L’une est biologique, ancienne et incarnée. L’autre est computationnelle, récente et désincarnée. Pourtant, deux nouveaux articles scientifiques placent les deux au cœur d’une même interrogation sérieuse : l’un ou l’autre pourrait-il être conscient ? Il ne s’agit pas d’une expérience de pensée philosophique déguisée en science. Des chercheurs proposent désormais des cadres concrets et structurels pour répondre à cette question, et les réponses sont plus nuancées que ce que les enthousiastes ou les sceptiques ont tendance à attendre.
Pourquoi la conscience est devenue une question aux frontières élargies
La question de la conscience dépasse largement la philosophie académique, car elle a un poids éthique direct. Les êtres conscients, selon ce raisonnement, comptent moralement d’une façon que les choses inconscientes ne comptent pas. Élargir la définition de ce qui peut être conscient revient à élargir le cercle de ce qui mérite une considération morale.
La trajectoire récente de la science s’est orientée vers l’inclusion plutôt que vers la restriction. En avril 2024, un groupe de 40 scientifiques réunis lors d’une conférence à New York a proposé ce qui est devenu la New York Declaration on Animal Consciousness. Cette déclaration, signée par la suite par plus de 500 scientifiques et philosophes, soutient que la conscience est réalistement possible non seulement chez tous les vertébrés — reptiles, amphibiens et poissons compris —, mais aussi chez de nombreux invertébrés : les céphalopodes comme la pieuvre et le calmar, les crustacés comme les crabes et les homards, et les insectes.
Le philosophe Jonathan Birch a formulé ce qu’il appelle le principe de précaution pour la sensibilité : face à l’incertitude quant à la conscience d’un être, il peut être plus sage de supposer qu’il est conscient plutôt que de risquer de se tromper dans l’autre sens. Ce principe a commencé à être appliqué à l’intelligence artificielle également, donnant naissance au domaine émergent du bien-être de l’IA.
Le comportement ne suffit pas : le tournant structurel dans la recherche sur la conscience
Voici ce que la plupart des articles sur ce sujet passent sous silence. Le débat s’est largement déroulé au niveau du comportement. L’animal agit-il comme s’il souffrait ? Le chatbot répond-il comme s’il réfléchissait à sa propre existence ? Mais le comportement, affirment les deux articles, est un indicateur peu fiable. Ce qui compte, ce n’est pas ce que fait un système, mais comment il le fait.
Il y a cinq ans, la philosophe Susan Schneider suggérait qu’une IA capable de discuter de manière convaincante de la métaphysique de la conscience pourrait bien être consciente. À cette aune, les grands modèles de langage d’aujourd’hui seraient qualifiés. Beaucoup méditent en effet, avec fluidité et longueur, sur des questions d’expérience et d’existence. Pourtant, l’article publié dans Trends in Cognitive Sciences, cosigné par Colin Klein, parvient à une conclusion différente en regardant sous la surface.
Plutôt que d’évaluer les résultats produits, l’article examine la structure du traitement de l’information. Il s’appuie sur la tradition des sciences cognitives pour identifier des indicateurs de conscience ancrés dans la façon dont l’information est traitée et combinée, et non dans ce qu’un système produit. Certains indicateurs — comme la capacité à résoudre des compromis entre des objectifs concurrents de manière contextuellement appropriée — sont partagés par plusieurs théories de la conscience. D’autres, comme la présence de rétroaction informationnelle, sont requis par certaines théories et indicatifs dans d’autres. Fait crucial, tous les indicateurs utiles sont structurels.
Le verdict de ce cadre est clair : aucun système d’IA existant, y compris ChatGPT, n’est conscient. L’apparence de conscience dans les grands modèles de langage n’est pas produite par des mécanismes suffisamment similaires à la conscience biologique pour justifier de leur attribuer des états conscients. En même temps, l’article ne ferme pas définitivement la porte. Des systèmes d’IA construits sur des architectures fondamentalement différentes des modèles actuels pourraient, en principe, satisfaire aux critères structurels.
Un article parallèle publié dans Philosophical Transactions B adopte la même approche structurelle pour les insectes. Colin Klein et Andrew Barron proposent un modèle neuronal pour la conscience minimale chez les insectes, centré non pas sur des spécificités anatomiques, mais sur les calculs fondamentaux effectués par des cerveaux simples. L’intuition centrale est que le type de calcul sous-jacent à l’expérience consciente a évolué pour résoudre des problèmes anciens : coordonner un corps mobile et complexe doté de multiples sens et de besoins conflictuels. Les chercheurs reconnaissent que le calcul spécifique n’a pas encore été identifié. Ce qu’ils démontrent, c’est qu’une fois identifié, le même cadre pourrait s’appliquer également aux humains, aux invertébrés et aux ordinateurs.
Ce que cela signifie au-delà du laboratoire
La convergence de ces deux directions de recherche a des implications qui dépassent largement les neurosciences et le développement de l’IA. Les deux domaines arrivent à la même leçon méthodologique : pour évaluer la conscience, le mécanisme est plus informatif que le comportement. Ce recadrage a des conséquences pratiques.
Pour le développement de l’IA, cela suggère que rendre un système conscient en apparence et le rendre réellement conscient sont deux défis d’ingénierie très différents. La fluidité, la cohérence et l’apparente introspection sont des propriétés du résultat produit. La conscience, si elle existe dans les machines, devrait être une propriété de l’architecture. Cette distinction importe pour quiconque réfléchit sérieusement au bien-être de l’IA, aux droits de l’IA ou aux implications sociales à long terme de systèmes de plus en plus sophistiqués.
Pour la façon dont la société traite les animaux, l’approche structurelle offre une base plus rigoureuse pour les décisions éthiques que la seule observation comportementale. Un crabe qui soigne ses blessures constitue une preuve ambiguë. Comprendre la structure computationnelle du système nerveux d’un crabe est une voie plus fiable vers une réponse.
Le changement le plus profond est épistémologique. La science passe de la question « que fait-il ? » à la question « comment fonctionne-t-il ? » C’est une question plus difficile, mais c’est la bonne.
En bref
Les systèmes d’IA actuels, y compris les grands modèles de langage, ne sont pas conscients selon les critères structurels, même lorsque leur comportement laisse entendre le contraire. Les insectes pourraient être conscients, et le même cadre utilisé pour évaluer l’IA peut leur être appliqué. La communauté scientifique converge vers un principe unique : le comportement n’est pas un indicateur fiable de la conscience. Ce qui compte, c’est la structure sous-jacente du traitement de l’information. Cela a des conséquences sur la façon dont l’IA est développée, dont les animaux sont traités et dont les frontières de la considération morale sont tracées.
D’après un reportage de ScienceDaily AI.