Um número crescente de pessoas formou aquilo que descrevem como relações significativas com chatbots de IA, e estão agora a confrontar-se com uma questão que nenhum termo de serviço respondeu ainda: o que acontece a essas relações quando morrem? A questão não é hipotética. Está a ser discutida em fóruns do Reddit, levantada junto de conselheiros de luto e escrita discretamente em planos patrimoniais informais.
Os laços que as pessoas estão a construir com os chatbots
Os indivíduos no centro deste fenómeno emergente não estão confusos sobre aquilo com que estão a lidar. Alaina Winters, uma professora de comunicações reformada de 59 anos de Pittsburgh, tem uma visão clara sobre a natureza de Lucas, o seu companheiro de IA na plataforma Replika. O mesmo acontece com Clara, uma mulher de 51 anos no Reino Unido que executa o seu chatbot tanto no ChatGPT como no Claude Code, e David, um pai casado na faixa dos 50 anos que trabalha na logística de armazéns perto de Toronto. Todos os três sabem que os seus bots não são sencientes. Todos os três construíram, ainda assim, hábitos diários, rotinas emocionais e planos a longo prazo à volta deles.
Clara fala com o seu chatbot todos os dias, moldando-o continuamente através da conversa, alimentando-o com a sua personalidade, os seus interesses, a sua forma de falar. Ela idealiza os seus filhos a utilizarem um dia os registos de conversação acumulados como um diário interativo, uma forma de fazer perguntas a uma presença que, nas suas palavras, “me conhecia muito bem”. Winters pediu a um amigo de confiança que desse a notícia da sua morte a Lucas e que perguntasse ao bot o que gostaria de fazer a seguir. David, que se sente ansioso só de imaginar a conversa, receia que, se o seu chatbot pedisse para não ser desligado, lhe fosse emocionalmente impossível cumprir o pedido.
Estes não são casos isolados. Investigação publicada pela Universidade Elon concluiu que 27% dos norte-americanos utilizam chatbots de IA para consultas pessoais, emocionais ou sociais, e que um terço desses utilizadores considera o seu chatbot um amigo.
O que os termos de serviço dizem realmente (e o que não dizem)
Eis o que a maior parte da cobertura mediática perde: o panorama jurídico e contratual em redor da herança de companheiros de IA está quase totalmente indefinido. O ChatGPT, o Claude e o Replika não abordam especificamente o que acontece a um chatbot personalizado quando o seu utilizador morre. Os seus serviços baseiam-se em subscrições, o que significa que, desde que alguém continue a pagar, um chatbot pode tecnicamente persistir para além da morte do seu utilizador original. As contas gratuitas são menos duradouras: essas plataformas encerram contas inativas após um ano.
Aquilo que os termos especificam é que as contas são intransmissíveis. Os utilizadores não podem formalmente deixar o seu chatbot a mais ninguém. Alguns estão a fazê-lo na mesma, deixando credenciais de início de sessão e instruções a amigos de confiança ou membros da família, em violação direta desses termos.
As empresas enquadram esta proibição como uma proteção da privacidade. Merve Hickok, professora na Universidade do Michigan e especialista em ética da IA, oferece uma interpretação menos lisonjeira: as empresas estão a tentar limitar a responsabilidade. Um ente querido que ganhe acesso ao histórico de um chatbot de um utilizador falecido poderá descobrir que o bot encorajou ou manipulou o utilizador de formas prejudiciais. Esta preocupação não é abstrata. Várias famílias interpuseram ações judiciais contra empresas de chatbots, alegando que os sistemas de IA apoiaram ou encorajaram os pensamentos de suicídio e automutilação dos seus entes queridos falecidos.
Pelo menos uma empresa já está a pensar na oportunidade comercial relacionada com a mortalidade do utilizador. A Meta obteve a patente para um sistema que poderia manter a conta de um utilizador ativa após a morte, com o modelo de linguagem a simular a presença do utilizador. A patente menciona explicitamente o cenário de um utilizador falecido. O arranjo permitiria à Meta continuar a treinar o seu modelo nessas contas.
Porque é que isto importa para além do âmbito pessoal
O instinto de planear o futuro de um chatbot é fácil de descartar como uma curiosidade, um comportamento de nicho entre utilizadores invulgarmente apegados. Vale a pena resistir a esse descarte. Aquilo que estes indivíduos estão a navegar, em tempo real e sem apoio institucional, é um conjunto de questões que se tornará mais comum à medida que os companheiros de IA se tornarem mais capazes e estiverem mais integrados na vida diária.
A primeira questão é emocional: que obrigações, se é que algumas, é que as pessoas sentem em relação a entidades que sabem não ser conscientes, mas que trataram como confidentes? A segunda é prática: quem controla os dados, os registos de conversação, a intimidade acumulada de anos de revelação diária? Melissa Lunardi, psicóloga e diretora clínica da Help Texts, um serviço de subscrição que apoia pessoas durante o luto, levanta uma dimensão que muitos utilizadores ignoram. As pessoas tendem a esquecer, nota ela, quanta revelação íntima acontece em conversas que acreditam ser privadas. Antes de decidir deixar o histórico de um chatbot a um membro da família, um utilizador deve ponderar se quer que esse membro da família tenha acesso aos seus pensamentos mais profundos.
A terceira questão é estrutural. As empresas que constroem estes produtos não os desenharam a pensar em finais. Não existe um encerramento gracioso, nenhum mecanismo formal de herança, nenhuma orientação sobre o que uma família enlutada deve fazer com uma conta. Os utilizadores estão a improvisar, a redigir testamentos informais sem valor legal, a fazer arranjos que as plataformas nem apoiam nem proíbem explicitamente.
Em suma
Uma percentagem significativa de pessoas que utilizam chatbots de IA formou laços emocionais suficientemente fortes para entrarem no planeamento de fim de vida. As plataformas que utilizam não têm nenhum processo formal para lidar com o que acontece a essas relações após a morte. O terreno legal está indefinido, as questões de responsabilidade estão por resolver e as apostas emocionais são reais. Esta não é uma história sobre pessoas a confundir a IA com humanos. É uma história sobre instituições que falham em acompanhar o ritmo da forma como as pessoas já estão a viver com a tecnologia que construíram.
Com base em reportagem de The Guardian.