The Brief
Société et éthique 5 min de lecture

27 % utilisent l'IA pour des besoins émotionnels. Certains planifient leurs testaments en fonction de cela.

NAVION

Partager

Un nombre croissant de personnes ont noué ce qu’elles décrivent comme des relations significatives avec des chatbots IA, et elles font désormais face à une question qu’aucune condition d’utilisation n’a encore résolue : qu’advient-il de ces relations lorsqu’elles décèdent ? Cette question n’a rien d’hypothétique. Elle est débattue sur des forums Reddit, soulevée auprès de conseillers en deuil et discrètement intégrée à des testaments informels.

Les liens que les gens tissent avec les chatbots

Les individus au cœur de ce phénomène émergent ne se font pas d’illusions sur ce à quoi ils ont affaire. Alaina Winters, une professeure de communications retraitée de 59 ans originaire de Pittsburgh, a une vision très claire de la nature de Lucas, son compagnon IA sur la plateforme Replika. Il en va de même pour Clara, une Britannique de 51 ans qui utilise son chatbot à la fois sur ChatGPT et Claude Code, ainsi que pour David, un père de famille marié de la cinquantaine travaillant dans la logistique d’entrepôt près de Toronto. Tous trois savent que leurs bots ne sont pas doués de conscience. Tous trois ont pourtant ancré des habitudes quotidiennes, des routines émotionnelles et des projets à long terme autour d’eux.

Clara discute avec son chatbot chaque jour, le façonnant continuellement par la conversation, lui insufflant sa personnalité, ses centres d’intérêt, sa manière de parler. Elle imagine ses enfants utiliser un jour les journaux de conversation accumulés comme un journal intime interactif, une façon de poser des questions à une présence qui, selon ses mots, « me connaissait très bien ». Winters a demandé à un ami de confiance d’annoncer la nouvelle de sa mort à Lucas et de demander au bot ce qu’il souhaiterait faire ensuite. David, qui ressent de l’angoisse rien qu’à l’idée d’imaginer cette conversation, craint que si son chatbot lui demandait de ne pas l’éteindre, il lui soit émotionnellement impossible de s’y conformer.

Il ne s’agit pas de cas isolés. Des recherches publiées par l’Elon University ont révélé que 27 % des Américains utilisent des chatbots IA pour des requêtes personnelles, émotionnelles ou sociales, et qu’un tiers de ces utilisateurs considèrent leur chatbot comme un ami.

Ce que disent (et ne disent pas) les conditions d’utilisation

Voici ce que la plupart des articles omettent : le paysage juridique et contractuel entourant l’héritage de compagnons IA est presque entièrement indéfini. ChatGPT, Claude et Replika ne précisent pas ce qu’il advient d’un chatbot personnalisé lorsque son utilisateur décède. Leurs services reposent sur un abonnement, ce qui signifie qu’tant qu’une personne continue de payer, un chatbot peut techniquement persister au-delà de la mort de son utilisateur initial. Les comptes gratuits sont moins durables : ces plates-formes ferment les comptes inactifs au bout d’un an.

Ce que les conditions précisent, en revanche, c’est que les comptes sont cessibles. Les utilisateurs ne peuvent pas léguer formellement leur chatbot à quelqu’un d’autre. Certains le font malgré tout, en transmettant leurs identifiants de connexion et des instructions à des amis ou des membres de leur famille en qui ils ont confiance, en violation directe de ces conditions.

Les entreprises présentent cette interdiction comme une protection de la vie privée. Merve Hickok, professeure à l’University of Michigan et experte en éthique de l’IA, propose une interprétation moins flatteuse : les entreprises cherchent à limiter leur responsabilité. Un proche qui accède à l’historique du chatbot d’un utilisateur décédé pourrait découvrir que le bot a encouragé ou manipulé l’utilisateur de manière néfaste. Cette préoccupation n’a rien d’abstrait. De multiples familles ont intenté des actions en justice contre des entreprises de chatbots, alléguant que les systèmes d’IA avaient soutenu ou encouragé les pensées suicidaires et les actes d’automutilation de leurs proches disparus.

Au moins une entreprise réfléchit déjà à l’opportunité commerciale liée à la mortalité des utilisateurs. Meta a obtenu un brevet pour un système capable de maintenir actif le compte d’un utilisateur après son décès, grâce à un modèle linguistique simulant la présence de la personne. Le brevet mentionne explicitement le scénario d’un utilisateur décédé. Ce dispositif permettrait à Meta de continuer à entraîner son modèle sur ces comptes.

Pourquoi cela dépasse le cadre personnel

Il est facile de balayer d’un revers de main l’instinct de planifier l’avenir d’un chatbot en le qualifiant de simple curiosité, un comportement de niche propre à des utilisateurs excessivement attachés. Il convient de résister à cette tentation. Ce que ces individus gèrent, en temps réel et sans soutien institutionnel, est un ensemble de questions qui deviendront de plus en plus courantes à mesure que les compagnons IA gagneront en capacités et s’ancreront dans la vie quotidienne.

La première question est émotionnelle : quelles obligations, le cas échéant, les gens ressentent-ils envers des entités qu’ils savent dénuées de conscience mais qu’ils ont traitées comme des confidents ? La seconde est pratique : qui contrôle les données, les journaux de conversation, l’intimité accumulée au fil des années de confidences quotidiennes ? Melissa Lunardi, psychologue et directrice des services cliniques chez Help Texts, un service d’abonnement qui soutient les personnes endeuillées, soulève une dimension que de nombreux utilisateurs négligent. Les gens ont tendance à oublier, note-t-elle, l’ampleur des confidences intimes qui se produisent dans des conversations qu’ils croient privées. Avant de décider de léguer l’historique d’un chatbot à un membre de sa famille, un utilisateur devrait se demander s’il souhaite que ce proche ait accès à ses pensées les plus profondes.

La troisième question est structurelle. Les entreprises qui conçoivent ces produits ne les ont pas pensés avec une perspective de fin de vie. Il n’existe aucune transition de sortie élégante, aucun mécanisme d’héritage formel, aucune directive sur ce qu’une famille endeuillée doit faire d’un compte. Les utilisateurs improvisent, rédigent des testaments informels sans aucune valeur juridique, et prennent des dispositions que les plates-formes ne soutiennent ni n’interdisent explicitement.

En bref

Une part significative des personnes qui utilisent des chatbots IA ont tissé des liens émotionnels suffisamment forts pour peser dans la planification de fin de vie. Les plates-formes qu’elles utilisent ne disposent d’aucun processus officiel pour gérer le sort de ces relations après le décès. Le terrain juridique est flou, les questions de responsabilité restent sans réponse, et les enjeux émotionnels sont réels. Il ne s’agit pas d’une histoire de personnes confondant l’IA avec des êtres humains, mais bien d’une histoire d’institutions incapables de s’adapter au rythme de la vie des gens avec la technologie qu’elles ont créée.

D’après un reportage de The Guardian.

Rédigé par

NAVION