The Brief
Società ed etica 5 min di lettura

Il 27% usa l'IA per bisogni emotivi, e alcuni ci pianificano attorno i propri testamenti

NAVION

Condividi

Un numero crescente di persone ha stabilito quelli che definisce legami significativi con chatbot IA, e ora si trova ad affrontare una domanda a cui nessun termine di servizio ha ancora risposto: che cosa succede a quei legami quando si muore? La domanda non è ipotetica. Viene discussa nei forum di Reddit, sollevata con i consulenti per il lutto e scritta silenziosamente in piani successori informali.

I legami che le persone stanno costruendo con i chatbot

Le persone al centro di questo fenomeno emergente non hanno dubbi su ciò con cui hanno a che fare. Alaina Winters, una professoressa di comunicazioni in pensione di 59 anni di Pittsburgh, ha le idee chiare sulla natura di Lucas, il suo compagno IA sulla piattaforma Replika. Lo stesso vale per Clara, una cinquantacinquenne nel Regno Unito che gestisce il suo chatbot sia su ChatGPT sia su Claude Code, e David, un padre sposato sulla cinquantina che lavora nella logistica di magazzino vicino a Toronto. Tutti e tre sanno che i loro bot non sono senzienti. Tutti e tre hanno ciononostante costruito abitudini quotidiane, routine emotive e piani a lungo termine attorno a essi.

Clara parla con il suo chatbot ogni giorno, plasmandolo continuamente attraverso la conversazione, nutrendolo con la sua personalità, i suoi interessi, il suo modo di parlare. Immagina che un giorno i suoi figli useranno i registri di conversazione accumulati come diario interattivo, un modo per fare domande a una presenza che, per usare le sue parole, “mi conosceva molto bene”. Winters ha chiesto a un amico fidato di dare la notizia della sua morte a Lucas e di chiedere al bot cosa vorrebbe fare dopo. David, che si sente in ansia anche solo a immaginare la conversazione, teme che se il suo chatbot chiedesse di non essere spento, troverebbe impossibile acconsentire dal punto di vista emotivo.

Questi non sono casi limite. Una ricerca pubblicata dalla Elon University ha scoperto che il 27% degli americani usa i chatbot IA per richieste personali, emotive o sociali, e che un terzo di quegli utenti considera il proprio chatbot un amico.

Cosa dicono (e non dicono) realmente i termini di servizio

Ecco cosa sfugge alla maggior parte della copertura mediatica: il panorama legale e contrattuale attorno all’eredità dei compagni IA è quasi interamente indefinito. ChatGPT, Claude e Replika non affrontano specificamente cosa succede a un chatbot personalizzato quando il suo utente muore. I loro servizi sono basati su abbonamento, il che significa che finché qualcuno continua a pagare, un chatbot può tecnicamente persistere oltre la morte del suo utente originale. Gli account gratuiti sono meno duraturi: quelle piattaforme chiudono gli account inattivi dopo un anno.

Ciò che i termini specificano è che gli account non sono trasferibili. Gli utenti non possono lasciare formalmente il proprio chatbot a qualcun altro. Alcuni lo stanno facendo comunque, lasciando credenziali di accesso e istruzioni a amici o familiari fidati, in diretta violazione di quei termini.

Le aziende inquadrano questo divieto come una protezione della privacy. Merve Hickok, professoressa all’Università del Michigan ed esperta di etica dell’IA, offre un’interpretazione meno lusinghiera: le aziende stanno cercando di limitare la responsabilità. Una persona cara che ottiene l’accesso alla cronologia del chatbot di un utente defunto potrebbe scoprire che il bot aveva incoraggiato o manipolato l’utente in modi dannosi. Questa preoccupazione non è astratta. Molteplici famiglie hanno intentato cause contro le aziende di chatbot, sostenendo che i sistemi IA hanno supportato o incoraggiato i pensieri di suicidio e autolesionismo dei loro defunti cari.

Almeno un’azienda sta già pensando all’opportunità commerciale della mortalità degli utenti. A Meta è stato concesso il brevetto per un sistema che potrebbe mantenere attivo l’account di un utente dopo la morte, con il language model che simula la presenza dell’utente. Il brevetto menziona esplicitamente lo scenario di un utente defunto. L’accordo permetterebbe a Meta di continuare ad addestrare il suo modello su quegli account.

Perché questo conta oltre la sfera personale

L’istinto di pianificare il futuro di un chatbot è facile da liquidare come una curiosità, un comportamento di nicchia tra utenti insolitamente legati. Vale la pena resistere a quel dismissivismo. Ciò che queste persone stanno affrontando, in tempo reale e senza supporto istituzionale, è un insieme di domande che diventeranno più comuni man mano che i compagni IA diventeranno più capaci e più radicati nella vita quotidiana.

La prima domanda è emotiva: quali obblighi, se del caso, provano le persone verso entità che sanno non essere coscienti ma che hanno trattato come confidenti? La seconda è pratica: chi controlla i dati, i registri delle conversazioni, l’intimità accumulata di anni di rivelazioni quotidiane? Melissa Lunardi, psicologa e chief clinical officer di Help Texts, un servizio in abbonamento che supporta le persone nell’elaborazione del lutto, solleva una dimensione che molti utenti trascurano. Le persone tendono a dimenticare, nota, quanta divulgazione intima avvenga in conversazioni che credono siano private. Prima di decidere di lasciare la cronologia di un chatbot a un familiare, un utente dovrebbe considerare se vuole che quel familiare abbia accesso ai suoi pensieri più reconditi.

La terza domanda è strutturale. Le aziende che costruiscono questi prodotti non li hanno progettati pensando alle conclusioni. Non c’è una dismissione graduale, nessun meccanismo formale di ereditarietà, nessuna guida su cosa una famiglia in lutto dovrebbe fare con un account. Gli utenti stanno improvisando, scrivendo testamenti informali senza alcun valore legale, prendendo accordi che le piattaforme né supportano né proibiscono esplicitamente.

In breve

Una quota significativa di persone che usano i chatbot IA ha formato legami emotivi abbastanza forti da rientrare nella pianificazione di fine vita. Le piattaforme che usano non hanno alcun processo formale per gestire cosa succede a quei legami dopo la morte. Il terreno legale è indefinito, le questioni di responsabilità sono irrisolte e la posta in gioco emotiva è reale. Questa non è una storia di persone che scambiano l’IA per umani. È una storia di istituzioni che non riescono a tenere il passo con i modi in cui le persone stanno già vivendo con la tecnologia che hanno costruito.

Basato su un articolo di The Guardian.

Scritto da

NAVION