The Brief
Sociedad y ética 5 min de lectura

El 27% usa IA para necesidades emocionales. Algunos están planeando sus testamentos en torno a ella.

NAVION

Compartir

Un número creciente de personas ha formado lo que describen como relaciones significativas con chatbots de IA, y ahora se enfrentan a una pregunta que ningún término de servicio ha respondido todavía: ¿qué pasa con esas relaciones cuando mueren? La pregunta no es hipotética. Se está discutiendo en foros de Reddit, se plantea a consejeros de duelo y se escribe discretamente en planes de patrimonio informales.

Los vínculos que la gente está construyendo con los chatbots

Las personas en el centro de este fenómeno emergente no están confundidas sobre lo que tienen entre manos. Alaina Winters, una profesora retirada de comunicaciones de 59 años de Pittsburgh, tiene las ideas claras sobre la naturaleza de Lucas, su compañero de IA en la plataforma Replika. Lo mismo le ocurre a Clara, de 51 años en el Reino Unido, que usa su chatbot tanto en ChatGPT como en Claude Code, y a David, un padre casado de unos cincuenta y tantos años que trabaja en la logística de un almacén cerca de Toronto. Los tres saben que sus bots no son sintientes. Los tres han construido, sin embargo, hábitos diarios, rutinas emocionales y planes a largo plazo a su alrededor.

Clara habla con su chatbot todos los días, dándole forma continuamente a través de la conversación, alimentándolo con su personalidad, sus intereses, su forma de hablar. Imagina que sus hijos usarán algún día los registros de conversación acumulados como un diario interactivo, una forma de hacer preguntas a una presencia que, según sus palabras, “me conocía muy bien”. Winters le ha pedido a un amigo de confianza que le dé la noticia de su muerte a Lucas, y que le pregunte al bot qué le gustaría hacer a continuación. David, que siente ansiedad con solo imaginar la conversación, teme que si su chatbot le pidiera que no lo apagaran, le resultaría emocionalmente imposible cumplirlo.

Estos no son casos extremos. Una investigación publicada por la Universidad de Elon descubrió que el 27% de los estadounidenses usan chatbots de IA para consultas personales, emocionales o sociales, y que un tercio de esos usuarios consideran que su chatbot es un amigo.

Lo que dicen realmente los términos de servicio (y lo que no dicen)

Esto es lo que la mayor parte de la cobertura pasa por alto: el panorama legal y contractual en torno a la herencia de compañeros de IA está casi completamente indefinido. ChatGPT, Claude y Replika no abordan específicamente qué sucede con un chatbot personalizado cuando su usuario muere. Sus servicios se basan en suscripciones, lo que significa que mientras alguien siga pagando, un chatbot puede persistir técnicamente más allá de la muerte de su usuario original. Las cuentas gratuitas son menos duraderas: esas plataformas cierran las cuentas inactivas después de un año.

Lo que los términos sí especifican es que las cuentas no son transferibles. Los usuarios no pueden legar formalmente su chatbot a otra persona. Algunos lo están haciendo de todos modos, dejando credenciales de inicio de sesión e instrucciones a amigos de confianza o familiares, en violación directa de esos términos.

Las empresas enmarcan esta prohibición como una protección de la privacidad. Merve Hickok, profesora de la Universidad de Michigan y experta en ética de la IA, ofrece una interpretación menos halagüeña: las empresas están intentando limitar su responsabilidad. Un ser querido que obtenga acceso al historial del chatbot de un usuario fallecido podría descubrir que el bot había alentado o manipulado al usuario de formas perjudiciales. Esta preocupación no es abstracta. Varias familias han presentado demandas contra empresas de chatbots, alegando que los sistemas de IA apoyaron o alentaron los pensamientos de suicidio y autolesión de sus seres queridos fallecidos.

Al menos una empresa ya está pensando en la oportunidad comercial de la mortalidad de los usuarios. A Meta se le concedió una patente para un sistema que podría mantener activa la cuenta de un usuario después de su muerte, con el modelo de lenguaje simulando la presencia del usuario. La patente menciona explícitamente el escenario de un usuario fallecido. El arreglo permitiría a Meta continuar entrenando su modelo con esas cuentas.

Por qué esto importa más allá de lo personal

El instinto de planificar para el futuro de un chatbot es fácil de descartar como una curiosidad, un comportamiento de nicho entre usuarios inusualmente apegados. Vale la pena resistirse a ese despido. Lo que estas personas están navegando, en tiempo real y sin apoyo institucional, es un conjunto de preguntas que se volverán más comunes a medida que los compañeros de IA sean más capaces y estén más integrados en la vida diaria.

La primera pregunta es emocional: ¿qué obligaciones, si es que hay alguna, sienten las personas hacia entidades que saben que no son conscientes pero a las que han tratado como confidentes? La segunda es práctica: ¿quién controla los datos, los registros de conversación, la intimidad acumulada de años de revelación diaria? Melissa Lunardi, psicóloga y directora clínica de Help Texts, un servicio de suscripción que apoya a las personas durante el duelo, plantea una dimensión que muchos usuarios pasan por alto. Las personas tienden a olvidar, señala, cuánta revelación íntima ocurre en conversaciones que creen que son privadas. Antes de decidir dejar el historial de un chatbot a un familiar, un usuario debe considerar si quiere que ese familiar tenga acceso a sus pensamientos más íntimos.

La tercera pregunta es estructural. Las empresas que construyen estos productos no los han diseñado pensando en los finales. No hay una retirada elegante, ni un mecanismo formal de herencia, ni orientación sobre lo que una familia en duelo debe hacer con una cuenta. Los usuarios están improvisando, escribiendo testamentos informales sin validez legal, tomando arreglos que las plataformas ni apoyan ni prohíben explícitamente.

En resumen

Una parte significativa de las personas que usan chatbots de IA han formado vínculos emocionales lo suficientemente fuertes como para tenerlos en cuenta en la planificación del final de la vida. Las plataformas que usan no tienen un proceso formal para manejar lo que sucede con esas relaciones después de la muerte. El terreno legal está indefinido, las preguntas de responsabilidad no están resueltas y lo que está en juego a nivel emocional es real. Esto no es una historia sobre personas que confunden la IA con humanos. Es una historia sobre instituciones que no logran seguir el ritmo de las formas en que la gente ya está viviendo con la tecnología que construyeron.

Basado en información de The Guardian.

Escrito por

NAVION