Unsterblichkeit 2.0 – Die Digital Afterlife Industry macht’s möglich

In der sogenannten Digital Afterlife Industry treffen Technologie und Ethik aufeinander. Diese wachsende Branche verspricht neue Formen der Trauerbewältigung und Erinnerungskultur. Nicht ohne Grund steht sie im Spannungsfeld zwischen Innovation und Kommerzdrang, zwischen Lösung und Risiko. Im Interview gibt Martin Hennig, Experte auf diesem Gebiet, Einblicke in die Entwicklungen und Herausforderungen des digitalen Nachlebens.

Dr. Martin Hennig, Medienkulturwissenschaftler. Quelle: privat.

In einer Zeit unaufhaltsamer technologischer Fortschritte wirft die Idee des digitalen Weiterlebens nach dem Tod immer mehr ethische und gesellschaftliche Fragen auf. Ein Experte auf diesem Gebiet ist der promovierte Medienkulturwissenschaftler Martin Hennig. Er war Mitwirkender am Edilife-Projekt – einer Kooperation zwischen dem Forschungszentrum für Ethik an der Universität Tübingen und dem Fraunhofer-Institut für Sichere Informationstechnologie in Darmstadt, das darauf ab zielte, neue Angebote im Bereich des digitalen Umgangs mit dem Tod zu untersuchen, zukünftige Entwicklungen vorherzusehen (unter Berücksichtigung ethischer Aspekte) und daraus Handlungsempfehlungen zu entwickeln. Neben diesen wurden außerdem Fragen aus technologischen, juristischen und kulturwissenschaftlichen Bereichen beantwortet. Nach umfangreicher Forschungsarbeit, die Interviews mit Trauerexperten zur Bewertung solcher Angebote umfasste, präsentiert das Projekt nun seine Ergebnisse. Mehr dazu im Interview.

Die Digital Afterlife Industry (zu Deutsch: Industrie für digitales Leben nach dem Tod) nutzt Technologien, um digitale Repräsentationen und Erinnerungen an Verstorbene zu schaffen. Inwiefern glauben Sie, dass sie das Trauerverhalten von Menschen verändern wird, und was daran ist riskant?

Das digitale Weiterleben kann viele Formen annehmen, und wir wissen noch nicht, welche sich durchsetzen wird. Wir haben verschiedene Personen interviewt, darunter Trauerbegleiter, Palliativmediziner und Angehörige verschiedener Religionen. Viele äußern sich sehr skeptisch. Trauerexperten, mit denen wir über digitale Nachlassangebote gesprochen haben, kritisieren oft die problematische Art und Weise der Trauerverarbeitung mithilfe solcher Angebote. Im Grunde das Nicht-Abschließen-Können. Das war ein starkes wiederkehrendes Thema, natürlich in unterschiedlichen Varianten je nach Gesprächspartner. Zum anderen die Frage, wer diese Angebote nutzt. Besonders bei Kindern muss man vorsichtig sein, ebenso wie bei der Frage, wie lange der Tod zurückliegt. Es macht einen Unterschied, ob jemand vor zwei Wochen oder vor zehn Jahren gestorben ist. Auch wenn Enkel etwas über ihre Großeltern erfahren wollen und dafür einen Chatbot nutzen, spielt diese kontextuelle Ebene eine Rolle.

Ähnlich wie beim Uncanny Valley-Effekt, der sich auf die visuelle Darstellung bezieht, kann es auch auf textueller Ebene zu Unbehagen kommen. Der Uncanny Valley-Effekt beschreibt das Phänomen, dass menschenähnliche Roboter oder Avatare, die fast, aber nicht ganz realistisch aussehen, Unbehagen oder Ablehnung auslösen können. Auf textueller Ebene bedeutet dies, dass die Kommunikation mit einem digitalen Avatar, dessen Stimme und Sprache einer verstorbenen Person gleicht, ähnliche Gefühle der Vertrautheit und Fremdheit hervorrufen kann, was als unangenehm empfunden werden könnte.

Auch die Frage nach einer möglichen Sucht und Retraumatisierung wurde angesprochen. Man könnte sich so stark an den Avatar des Verstorbenen binden, dass man nicht mehr davon loskommt. Ein weiterer Punkt ist, dass diese Angebote in einem ökonomischen Kontext stehen. Firmen, die solche Dienste anbieten, wollen Geld verdienen. Was passiert, wenn die Firma pleite geht und den Dienst abschaltet? Die emotionale Bindung zu dem Avatar könnte dann abrupt unterbrochen werden, was problematisch ist. Trauerbegleiter und Bestatter betonen oft, dass solche Angebote vielleicht sinnvoll sein können, aber nur mit professioneller Begleitung.

Wie denken Sie darüber, digitale Avatare oder Kommunikationstechniken nach dem Tod zu nutzen?

Wenn ich davon ausgehe, dass es nur ein Medium ist, das ich spielerisch nutzen kann, ist das eine andere Perspektive. Ich kann es in einer spezifischen Weise für mich nutzen. Beispielsweise kann ich mir vorstellen, dass bestimmte Arten von Kommunikation sinnvoll sein könnten, besonders weil der Tod oft ein plötzliches Ereignis ist und einige Dinge nicht mehr gesagt werden konnten. Man könnte so eine Technik als bewusste Selbsttherapie nutzen, um etwa noch die „letzten“ richtigen Worte an den verstorbenen Vater zu richten. Das halte ich für plausibel. Größere Ängste bestehen bei den invasiveren Formen, wo die Nutzenden eventuell nicht mehr zwischen technischer Simulation und tatsächlich sozialer Kommunikation unterscheiden können. Das ist problematisch und zeigt den Bedarf an Medienkompetenz.

Welche Möglichkeiten sehen Sie, um Missbrauch und Manipulation von digitalen Repräsentationen zu verhindern?

Es ist wichtig, Missbrauch vorzubeugen. Daher empfehlen wir, dass diese Dienste für jeden nutzbar und barrierefrei sein sollten, um gesellschaftlich positive Effekte zu erzielen. Dennoch sollten diese Dienste kostenpflichtig sein. Im Internet gilt oft: Ist ein Dienst nicht kostenpflichtig, wird er meist durch Datenkapitalismus finanziert. Angesichts der Sensibilität dieses Bereichs sollten keine Datenanalysen stattfinden.

Stellen Sie sich vor, es erscheinen Werbebanner im Kontext mit diesen Avataren – das wäre eine extreme, aber mögliche Vorstellung, die problematisch ist. Trauern ist eine spezifische, kulturell verankerte Tätigkeit. Es gibt dafür vorgesehene Orte, die eine würdevolle Erinnerung gewährleisten. Es ist wichtig, vorsichtig zu sein, wenn man diese Aktivitäten in den Online-Kontext überführt und mit zusätzlichen Inhalten anreichert.

Können Sie konkrete Beispiele nennen, bei denen Datenschutz- und Sicherheitsbedenken eine Rolle spielen?

Eine wichtige Handlungsempfehlung im Zuge der Sicherheitsfrage ist, dass Betroffene Einsprüche erheben und die Nutzungskontexte des Avatars genau bestimmen können sollten. Wer den Avatar erstellt und trainiert, sollte festlegen, für welchen Personenkreis der Avatar bestimmt ist. Darf der Avatar nur in privaten Räumen genutzt werden oder auch in öffentlichen Bereichen wie dem Metaversum? Soll die Kommunikation geschützt sein oder dürfen andere mithören? Diese Entscheidungen sollten durch den Nutzer getroffen werden.

Aus Datenschutzsicht ist es problematisch, wenn sensible Inhalte während der Kommunikation mit dem Avatar entstehen. Der Avatar nutzt Daten, mit denen er trainiert wurde, und es entstehen neue Daten durch die Interaktion mit Hinterbliebenen. Dies könnte zu Missbrauch führen und stellt eine Herausforderung für den Datenschutz dar. Die Industrie allerdings könnte davon profitieren zu wissen, wann, warum und wie sich Nutzer fühlen. Solche Emotionsanalysen könnten dann beispielsweise ertragreich genutzt werden.

Wie schätzen Sie die aktuelle Entwicklung der Digital Afterlife Industry ein? Ist der Markt noch geprägt von Innovationsdrang und ehrlichem Erfindergeist oder zeigen sich bereits Tendenzen zum Kapitalismus-Boom?

Die Anfänge dieser Idee, einen Avatar mit Textnachrichten zu füttern, stammen aus privaten Interessen. Ein berühmtes Beispiel ist eine russische Entwicklerin, die nach dem Verlust ihres Freundes einen Chatbot mit seinen Daten erstellt hat. Diese Geschichte, oft zitiert, findet man leicht im Internet. Interessanterweise verkaufte diese Entwicklerin das Programm, und daraus entstand der Dienst Replika.

Replika bietet AI-Companions an, die eine emotionale Verbindung zu den Nutzenden aufbauen. Obwohl Replika nicht speziell für die Simulation von Verstorbenen gedacht ist, bietet es dennoch tiefere emotionale Verbindungen. Ein bemerkenswerter Vorfall bei Replika war die Einführung und spätere Abschaltung einer Sexting-Funktion. Diese Funktion ermöglichte es Nutzern, erotisch mit den Avataren zu kommunizieren. Man hat sie abgeschaltet, weil die generative KI Muster entwickelte, die sexuell aggressiv waren, insbesondere gegenüber Jugendlichen. Die Abschaltung der Funktion führte zu einem großen Shitstorm unter den Nutzern.

Auf Reddit findet man Threads, in denen Menschen über ihre Erfahrungen mit Replika sprechen. Viele Nutzer äußerten, dass diese Avatare eine große emotionale Bedeutung für sie hatten. Einige Nutzer konnten aus bestimmten Gründen keine emotionalen oder erotischen Beziehungen zu anderen Menschen aufbauen und sahen die Avatare als ihre einzige Möglichkeit. Mittlerweile ist diese Funktion bei Replika wieder verfügbar. Dieses Beispiel zeigt, wie emotionale Bindungen an kommerzielle Strukturen problematisch sein können, besonders wenn sie von Unternehmen kontrolliert sind, die man nicht im Griff hat.

Kann man denn eigentlich überhaupt schon von einer „Industrie“ sprechen?

Die Frage, ob man bereits von einer Industrie sprechen kann, ist schwierig zu beantworten. In diesem Zusammenhang hört man oft den Begriff der Digital Afterlife Industry. Diese Branche ist zwar noch nicht riesig und weit verbreitet, aber es gibt ein wachsendes Interesse von verschiedenen Firmen, sowohl großen als auch kleinen. Vieles, womit wir uns beschäftigt haben, sind also Zukunftsprojektionen – was könnte in der Zukunft passieren, besonders mit den Fortschritten bei generativer KI? Ungeklärt ist daher auch die Frage, was passiert, wenn solche Technologien eine breite Marktdurchdringung erreichen. Bisher ist das noch nicht der Fall.

Wird der Bereich des Digital Afterlifes ein Erfolgsgeschäft?

Wenn solche Technologien leicht bezahlbar sind und den Uncanny Valley-Effekt überwinden, könnte ich mir vorstellen, dass viele Menschen sie ausprobieren und nutzen. Allerdings bin ich skeptisch, ob sich das langfristig durchsetzt, wegen der genannten Probleme und individuellen emotionalen Unterschiede. Der Tod ist auch eng mit Religionen verbunden, und aus bestimmten religiösen Perspektiven könnte das Simulieren Verstorbener problematisch sein.

Ich wage keine Prognose über eine langfristige kulturelle Veränderung, aber es wird sicherlich Änderungen geben. Diese Entwicklungen fügen sich in bereits bestehende Veränderungen in der Trauerkultur ein. In den letzten Jahrzehnten haben wir eine starke Delokalisierung der Trauer festgestellt. In Deutschland sind die Regeln für den Umgang mit Totenasche recht strikt, aber in anderen Ländern ist man viel liberaler. Beispiele wie das Pressen eines Diamanten aus der Totenasche eines geliebten Menschen zeigen, dass Trauer nicht mehr an ein Grab oder einen spezifischen Ort gebunden ist. Auch die Corona-Pandemie hat diese Veränderung beschleunigt, indem sie Trauerfeiern und Gedenkveranstaltungen ins Online-Format gezwungen hat. Diese Entwicklungen zeigen, dass Trauerkultur sich ständig weiterentwickelt und an neue gesellschaftliche und technologische Gegebenheiten anpasst.

Wir danken für das Gespräch und freuen uns auf weitere Entwicklungen in diesem spannenden Bereich.

Ihr seid neugierig geworden? Dann folgt uns doch auf Instagram! Mehr zum Thema lest ihr außerdem hier.