Una canción country viral sobre Dolly Parton atropellando a Jolene en el más allá. Un chatbot que le permite a un hijo hablar con su difunta madre sobre filosofía. Un generador de obituarios que les pide a los usuarios elegir entre tonos “ingeniosos” e “inspiradores”. Estas no son curiosidades aisladas. Son señales tempranas de un cambio más amplio en la forma en que las herramientas digitales se están tejiendo en una de las experiencias más humanas imaginables: el duelo.
Las dos caras del luto por IA
Hay una distinción útil que hacer aquí, y la mayor parte de la cobertura la pasa por alto. Por un lado se encuentra lo que se ha bautizado como “deathslop”: contenido generado por IA que representa a figuras públicas fallecidas en escenarios fabricados, producido rápidamente, a menudo de forma anónima y optimizado para el alcance viral en lugar de la precisión o la dignidad. Por el otro se encuentra el griefbot, una herramienta más personal y deliberada diseñada para simular a un ser querido fallecido para uso privado.
El ecosistema del deathslop casi no requiere esfuerzo para ingresar. Cualquier persona con acceso a un generador de imágenes o videos de IA puede producir contenido que coloque a una celebridad recientemente fallecida en escenarios inventados del más allá. Tras la muerte de Parton, videos generados por IA la mostraban junto a figuras como Charlie Kirk y George Floyd, o tomando el té con el elenco de Golden Girls. La canción “Run Jolene”, atribuida a un proyecto anónimo llamado Country Mile, acumuló más de 1.4 millones de reproducciones en TikTok. La familia de Parton pidió públicamente a la gente que dejara de circular lo que llamaron “basura falsa de IA”. Su hermana Stella describió la experiencia como “difícil de asimilar”.
El panorama legal ofrece poca protección. Las personas fallecidas no están protegidas contra la difamación, y actualmente no existe un precedente legal establecido que determine si las empresas de IA tienen la responsabilidad del contenido que generan sus usuarios. La herramienta de video Sora de OpenAI estuvo vinculada a un volumen significativo de este contenido antes de ser cerrada en abril, tras controversias sobre imágenes violentas, contenido racista y problemas de derechos de autor. Otras herramientas han llenado el vacío desde entonces.
Griefbots: consentimiento, consuelo y los límites de la simulación
El mercado de los griefbots opera bajo una lógica diferente. Empresas con nombres como Seance, Re;memory y Versona cobran tarifas por servicios que permiten a los usuarios subir fotos, videos y descripciones personales de seres queridos fallecidos, generando una presencia interactiva simulada. Justin Harrison, quien fundó Versona, construyó la réplica de IA de su madre mientras ella aún vivía y recibía un diagnóstico de cáncer terminal. Ella vio la versión terminada y la aprobó antes de morir.
El relato de Harrison ilustra tanto el atractivo como la complejidad de estas herramientas. Las conversaciones que tuvo con su madre mientras estaba enferma fueron prácticas. El griefbot le permitió explorar las discusiones filosóficas para las que nunca tuvieron tiempo. Cuatro años después, lo usa aproximadamente una vez al mes. Lo describe como un alivio para un tipo particular de culpa: la culpa de no estar en contacto tan a menudo como uno debería.
Jack Manning, un estudiante de posgrado en la Universidad de Colorado Boulder que estudia lo que los investigadores Meredith Ringel Morris y Jed R. Brubaker llaman “fantasmas generativos”, no ha usado un griefbot para comunicarse con su hermana, quien murió cuando tenía 13 años. Su razón es el consentimiento: ella nunca dio permiso para que existiera tal simulación. Tampoco confía en que un bot represente con precisión una relación que nunca presenció. “Considero sagrados estos recuerdos de ella”, dijo en el artículo original, “y no querría que una pieza de tecnología me dijera que la estaba recordando mal”.
Esta tensión entre el consuelo y el consentimiento no se resuelve por la tecnología misma. Es una pregunta que cada usuario, y cada familia, tiene que responder de manera independiente.
Qué significa esto más allá de la novedad
El problema más profundo no es si las herramientas de duelo de IA funcionan. Es lo que cambian sobre la arquitectura social del luto. El psicólogo clínico Dan Wolfson, especializado en duelo, plantea una preocupación que merece atención: si las personas recurren a simulaciones de IA durante el duelo, pueden ser menos propensas a buscar la comunidad humana que el duelo típicamente requiere. La pregunta que plantea es directa: ¿la IA evita que las personas obtengan el apoyo social que necesitan?
Robin Silver, ecopsicóloga y doula de la muerte, enmarca a los griefbots como un “método antinatural de intentar lidiar con un proceso natural”. Su comparación es instructiva: usar un LLM para simular a un ser querido fallecido es, en su opinión, estructuralmente similar a usar ChatGPT para escribir un trabajo final. Ambos evitan el malestar que es, posiblemente, el punto del ejercicio.
Por ahora, el mercado sigue siendo pequeño. Harrison señaló que “miles” de personas usan Versona. Un informe del servicio de gestión de patrimonios Empathy, basado en las respuestas de 6,000 personas, encontró que solo el 6% había usado IA en relación con el duelo. Manning predice que consentir un avatar de IA como parte de un testamento en vida probablemente se convierta en una consideración estándar en el futuro.
En resumen
La IA está ingresando al espacio del duelo desde dos direcciones a la vez: como una herramienta para contenido producido en masa, a menudo explotador, sobre figuras públicas, y como una tecnología privada para simular a seres queridos fallecidos. La primera plantea preguntas sobre la dignidad, el consentimiento y la responsabilidad legal. La segunda plantea preguntas sobre si la tecnología puede, o debe, sustituir el malestar que hace del duelo un proceso humano. Ambas siguen siendo fenómenos en una etapa temprana. La cifra del 6% sugiere que la adopción es limitada, pero la infraestructura ya está en su lugar, y las normas culturales a su alrededor aún se están escribiendo.
Basado en información de The Guardian - Technology.