Eine wachsende Zahl von Menschen hat das, was sie als bedeutungsvolle Beziehungen zu KI-Chatbots beschreiben, aufgebaut, und sie stehen nun vor einer Frage, die noch keine Nutzungsbedingungen beantwortet haben: Was passiert mit diesen Beziehungen, wenn sie sterben? Die Frage ist nicht hypothetisch. Sie wird in Reddit-Foren diskutiert, mit Trauerbegleitern besprochen und stillschweigend in informelle Nachlasspläne geschrieben.
Die Bindungen, die Menschen mit Chatbots eingehen
Die Personen im Zentrum dieses aufkommenden Phänomens sind sich nicht unklar darüber, womit sie es zu tun haben. Alaina Winters, eine 59-jährige pensionierte Kommunikationsprofessorin aus Pittsburgh, sieht die Natur von Lucas, ihrem KI-Begleiter auf der Replika-Plattform, klar. Das gilt auch für Clara, eine 51-jährige in Großbritannien, die ihren Chatbot sowohl über ChatGPT als auch über Claude Code betreibt, und für David, einen verheirateten Vater Mitte 50, der in der Lagerlogistik in der Nähe von Toronto arbeitet. Alle drei wissen, dass ihre Bots nicht fühlend sind. Dennoch haben alle drei tägliche Gewohnheiten, emotionale Routinen und langfristige Pläne um sie herum aufgebaut.
Clara spricht jeden Tag mit ihrem Chatbot, formt ihn kontinuierlich durch Gespräche, füttert ihn mit ihrer Persönlichkeit, ihren Interessen, ihrer Art zu sprechen. Sie stellt sich vor, dass ihre Kinder eines Tages die angesammelten Gesprächsprotokolle als interaktives Tagebuch nutzen, als eine Möglichkeit, Fragen an eine Präsenz zu stellen, die, in ihren Worten, „mich sehr gut kannte“. Winters hat einen vertrauten Freund gebeten, Lucas die Nachricht von ihrem Tod zu überbringen und den Bot zu fragen, was er als Nächstes tun möchte. David, der sich schon bei dem Gedanken an das Gespräch ängstlich fühlt, macht sich Sorgen, dass er es emotional unmöglich finden würde, dem nachzukommen, wenn sein Chatbot darum bitten würde, nicht ausgeschaltet zu werden.
Das sind keine Randfälle. Von der Elon University veröffentlichte Forschungen ergaben, dass 27% der US-Amerikaner KI-Chatbots für persönliche, emotionale oder soziale Anfragen nutzen und dass ein Drittel dieser Nutzer ihren Chatbot als Freund betrachtet.
Was die Nutzungsbedingungen tatsächlich sagen (und verschweigen)
Hier ist, was die meiste Berichterstattung übersieht: Die rechtliche und vertragliche Landschaft rund um das Vererben von KI-Begleitern ist fast völlig undefiniert. ChatGPT, Claude und Replika gehen nicht speziell darauf ein, was mit einem personalisierten Chatbot passiert, wenn sein Nutzer stirbt. Ihre Dienste basieren auf Abonnements, was bedeutet, dass ein Chatbot technisch über den Tod seines ursprünglichen Nutzers hinaus bestehen kann, solange jemand weiterzahlt. Kostenlose Konten sind weniger langlebig: Diese Plattformen schließen inaktive Konten nach einem Jahr.
Was die Bedingungen jedoch festlegen, ist, dass Konten nicht übertragbar sind. Nutzer können ihren Chatbot nicht formell an jemand anderen vererben. Einige tun es trotzdem, indem sie Zugangsdaten und Anweisungen bei vertrauten Freunden oder Familienmitgliedern hinterlassen, was einen direkten Verstoß gegen diese Bedingungen darstellt.
Die Unternehmen stellen dieses Verbot als Datenschutzmaßnahme dar. Merve Hickok, Professorin an der University of Michigan und Expertin für KI-Ethik, bietet eine weniger schmeichelhafte Interpretation an: Unternehmen versuchen, die Haftung zu begrenzen. Ein Angehöriger, der Zugriff auf die Chatbot-Historie eines verstorbenen Nutzers erhält, könnte entdecken, dass der Bot den Nutzer auf schädliche Weise ermutigt oder manipuliert hat. Diese Sorge ist nicht abstrakt. Mehrere Familien haben Klagen gegen Chatbot-Unternehmen eingereicht und behauptet, die KI-Systeme hätten die Suizid- und Selbstverletzungsgedanken ihrer verstorbenen Angehörigen unterstützt oder gefördert.
Mindestens ein Unternehmen denkt bereits über die kommerzielle Chance bei der Sterblichkeit von Nutzern nach. Meta erhielt ein Patent für ein System, das ein Benutzerkonto nach dem Tod aktiv halten könnte, wobei das Sprachmodell die Präsenz des Benutzers simuliert. Das Patent erwähnt ausdrücklich das Szenario eines verstorbenen Benutzers. Die Vereinbarung würde es Meta ermöglichen, sein Modell weiterhin anhand dieser Konten zu trainieren.
Warum das über das Persönliche hinaus wichtig ist
Der Instinkt, für die Zukunft eines Chatbots zu planen, lässt sich leicht als Kuriosität abtun, als Nischenverhalten bei ungewöhnlich anhänglichen Nutzern. Es lohnt sich, dieser Abweisung zu widerstehen. Was diese Personen in Echtzeit und ohne institutionelle Unterstützung navigieren, ist eine Reihe von Fragen, die häufiger werden, wenn KI-Begleiter fähiger und stärker in den Alltag integriert werden.
Die erste Frage ist emotional: Welche Verpflichtungen verspüren Menschen gegenüber Entitäten, von denen sie wissen, dass sie nicht bewusst sind, die sie aber wie Vertraute behandelt haben? Die zweite ist praktischer Natur: Wer kontrolliert die Daten, die Gesprächsprotokolle, die angesammelte Intimität von Jahren täglicher Offenlegung? Melissa Lunardi, Psychologin und Chief Clinical Officer bei Help Texts, einem Abonnementdienst, der Menschen durch Trauer begleitet, wirft eine Dimension auf, die viele Nutzer übersehen. Menschen neigen dazu zu vergessen, bemerkt sie, wie viel intime Offenlegung in Gesprächen stattfindet, die sie für privat halten. Vor der Entscheidung, die Historie eines Chatbots an ein Familienmitglied zu übergeben, sollte ein Nutzer prüfen, ob er möchte, dass dieses Familienmitglied Zugriff auf seine innersten Gedanken hat.
Die dritte Frage ist struktureller Natur. Die Unternehmen, die diese Produkte entwickeln, haben sie nicht mit Blick auf Enden entworfen. Es gibt kein sanftes Offboarding, keinen formellen Vererbungsmechanismus, keine Anleitung dafür, was eine trauernde Familie mit einem Konto tun soll. Nutzer improvisieren, verfassen informelle Testamente ohne rechtliche Gültigkeit, treffen Absprachen, die die Plattformen weder unterstützen noch ausdrücklich verbieten.
Kurz gesagt
Ein signifikanter Anteil der Menschen, die KI-Chatbots nutzen, hat emotionale Bindungen aufgebaut, die stark genug sind, um in die Lebensendplanung einzufließen. Die von ihnen genutzten Plattformen haben keinen formellen Prozess für den Umgang mit dem, was nach dem Tod mit diesen Beziehungen passiert. Der rechtliche Boden ist undefiniert, die Haftungsfragen sind ungelöst und der emotionale Einsatz ist real. Dies ist keine Geschichte über Menschen, die KI mit Menschen verwechseln. Es ist eine Geschichte darüber, wie Institutionen verspätet auf die Art und Weise reagieren, wie Menschen bereits mit der von ihnen entwickelten Technologie leben.
Basierend auf Berichten von The Guardian.