Martha und Ash sind ein junges Paar, das gerade in Ashs Elternhaus gezogen ist. Als Ash kurz darauf bei einem Autounfall ums Leben kommt, ist Martha am Boden zerstört. Eine Freundin will ihr helfen und registriert sie bei einem Onlinedienst, der eine digitale «Kopie» von Ash erstellt. Zuerst reagiert Martha ablehnend auf die Idee, damit per Smartphone zu interagieren. Doch als sie von ihrer Schwangerschaft erfährt, lässt sie sich darauf ein.

Wohin die Beziehung von Martha mit dem digitalen «Ash» führt, ist Gegenstand einer Episode der britischen Fernsehserie «Black Mirror», die für ihre dystopischen Zukunftsgeschichten bekannt geworden ist. Doch bei der beschriebenen Folge, die vor 13 Jahren erschienen ist, handelt es sich längst nicht mehr um Fiktion. Mehrere Firmen bieten mittlerweile an, Avatare von verstorbenen Personen zu erstellen.

Angehörige können mit den sogenannten «Legacy Avatars» oder Trauerbots Gespräche führen. Die Bots reagieren mittels Künstlicher Intelligenz auf das Erzählte, geben Erinnerungen und Anekdoten zum Besten oder können sogar Meinungen und Ratschläge formulieren – mit einer Stimme, die der verstorbenen Person verblüffend ähnlich ist. Mit ihren Angeboten versuchen die KI-Startups, sich einen Anteil am wachsenden Milliardenmarkt der Trauerbegleitung zu sichern.

Unhaltbare Versprechen

Justin Harrison, der Gründer von «You, Only Virtual», sagt in einem Video auf der Website der Firma: «Meine Mission bestand darin, mich nie von meiner Mutter verabschieden zu müssen» – um die «Versona» seiner Mutter, wie das Unternehmen seine Bots nennt, zu Demonstrationszwecken gleich anzurufen. Das Versprechen des Unternehmens: Den Schmerz des Verlustes zu lindern.

«Ich halte solche Werbung für verantwortungslos», sagt der Ethiker Atay Kozlovski. Bisher sei die Wirkung dieser Produkte wissenschaftlich kaum erforscht worden. Das hindere die Unternehmen aber nicht daran, Menschen in verletzlichen Situationen grosse Versprechen zu machen. Der Ethiker erzählt von einer Szene des Dokumentarfilms «Eternal You».

Eine südkoreanische Firma bietet darin einer Frau an, mit einem Avatar ihrer verstorbenen Tochter zu interagieren – und zwar mit einer Virtual Reality Brille. Das bedeutet, dass die Mutter den Avatar ihrer Tochter nicht nur hört, sondern auch sieht. Als sie die Brille aufsetzt, tänzelt der Avatar ihrer Tochter vor ihr herum. «Wo warst du? Hast du an mich gedacht?». Die Frau bricht fast zusammen. Kozlovski sagt: «Ich habe mich gefragt: Ist das ein schöner Moment oder eine Folterszene?».

Kozlovski forscht mit einem Stipendium des Schweizerischen Nationalfonds zum Thema «Digitale Duplikate» an den Universitäten Delft und Oxford. Als «Digitale Duplikate» bezeichnet er alle Formen von digitalen Bots oder Avataren, die real existierende Personen imitieren sollten.

Den Anwendungsfällen und Absichten dahinter sind kaum Grenzen gesetzt. So existieren etwa digitale Duplikate historischer Figuren zu Bildungszwecken – beispielsweise um an die Schrecken des Holocausts zu erinnern – oder sogenannte Deepfakes zur Verbreitung von Falschinformationen und zu Diffamierungszwecken.

Eine mumifizierte Version von uns selbst

In seiner Arbeit unterscheidet Kozlovski grundsätzlich zwischen Duplikaten von lebenden und verstorbenen Personen und solchen, die mit oder ohne Einwilligung der Person erstellt wurden. Jede der vier Kategorien wirft spezifische ethischen Fragen auf. Ein philosophisches Grundproblem liegt ihnen aber allen zugrunde. Kozlvoski fasst es folgendermassen zusammen: «Wie lässt sich die Essenz oder das Wesen eines Menschen erfassen?».

Anders als der Ethiker geben die Unternehmen vor, die Antwort darauf zu kennen. Einige Stunden Audio-Material, ein paar persönliche Geschichten und Antworten auf spezifische Fragen – etwa zu Werten und Ansichten einer Person – reichen für die meisten Firmen aus, um einen Avatar zu erstellen. Kozlosvki sagt: «Wir erzählen eine Geschichte über uns selbst.» Doch die sei in der Regel verzerrt.

In der «Black Mirror» Folge verzweifelt Martha allmählich ab dem Avatar von Ash, der mittlerweile sogar in Form eines Roboters daherkommt. Dieser weist keine der negativen Eigenschaften ihres verstorbenen Partners auf. Er ist immer höflich, verständnisvoll und befolgt jede Anweisung bis hin zur Aufforderung, sich über eine Klippe in den Tod zu stürzen – was der echte Ash nie getan hätte.

Für Kozlovksi geht das Problem über die Oberflächlichkeit und Einseitigkeit der Trauerbots hinaus. Menschen würden sich laufend weiterentwickeln und verändern. «Obwohl wir gewissen Mustern folgen, lassen sich nicht alle unsere Handlungen mit unserer Vergangenheit erklären.»

Die Avatare könnten jedoch immer nur auf die Vergangenheit einer Person zurückgreifen. Das mache sie zu einer Art mumifizierten Version dieser Person, so der Ethiker.

Der Anfang einer neuen Trauerkultur

Während sich die philosophischen Probleme vielleicht noch ignorieren lassen, erfordern andere zwingend Antworten: Wer ist verantwortlich für potenziell schädliche Ratschläge, die ein Trauerbot macht? Wer hat die Rechte am Avatar? Wer darf damit interagieren? Dürfen Bots von sich aus ein Gespräch anfangen – und falls ja, wie und mit wem? Kann man sich dagegen wehren, als «Avatar» weiterzuexistieren?

«Es finden sogar Debatten statt, ob Trauerbots für Werbezwecke verwendet werden können», sagt Kozlovski. Man stelle sich vor: Der Avatar des toten Vaters rät zum Kauf von neuen Sneakers. Die Politik beginnt erst, sich mit den Folgen von KI zu beschäftigen (siehe Infobox).

So neu die Technologie aber auch ist: Die Idee dahinter ist es nicht. «Die Römer beispielsweise fertigten Masken der Verstorbenen an», erzählt Kozlovski.

An der Beerdigung würden Schauspieler sie tragen und sich als die verstorbene Person ausgeben. Trauer sei ein soziales Konstrukt, so der Ethiker. «Vielleicht setzen sich Trauerbots eines Tages durch und verändern unsere Trauerkultur.»