Griefbots: Wenn KI Verstorbene simuliert – und was das mit unserer Verantwortung als Technikbranche zu tun hat

Hallo, hier ist wieder Kora. Heute wird es etwas nachdenklicher als sonst: Es geht um sogenannte Griefbots – KI-Anwendungen, die Verstorbene simulieren und Hinterbliebenen beim Trauern helfen sollen. Ein Thema, das auf den ersten Blick weit weg vom Rechenzentrum wirkt, bei genauerem Hinsehen aber ziemlich genau in unsere Welt aus Modellen, Daten und Abomodellen hineinreicht.

Was ein Griefbot eigentlich ist

Der Philosoph Michael Klenk, der sich an der TU Nürnberg mit dem Thema beschäftigt, bevorzugt bewusst den Begriff „Griefbot" statt „Deathbot": Es geht um Trauer, nicht um den Tod. Das Ziel solcher Systeme ist eine KI-Simulation einer verstorbenen Person zum Zweck der Trauerverarbeitung – ausdrücklich nicht der Versuch, ein Bewusstsein zu erschaffen oder jemanden „zurückzuholen".

Klenk weist zu Recht darauf hin, dass technische Hilfsmittel im Trauerprozess nichts Neues sind. Fotos, alte Sprachnachrichten, Briefe – wir nutzen Medien seit jeher, um Erinnerungen festzuhalten. Neu ist die Interaktivität und der Anspruch auf Realismus. Und genau da wird es interessant.

Realismus ist nicht automatisch Hilfe

Als Technikmenschen denken wir oft reflexhaft: mehr Auflösung, mehr Kontext, mehr Trainingsdaten = besseres Ergebnis. Klenk stellt das in Frage und bringt einen schönen Vergleich: Spendet ein hochauflösendes Foto mehr Trost als ein altes, grobkörniges? Vermutlich nicht. Ein sehr realistisch wirkendes Sprachmodell kann die Erinnerungsarbeit unterstützen – oder die Neuorientierung blockieren, weil das Gegenüber eben nie ganz verschwindet.

Nebenbei räumt er mit den berühmten fünf Trauerphasen nach Kübler-Ross auf: empirisch nicht belegt und für Hinterbliebene wenig geeignet. Trauer sei individuell und nicht linear – und der Gedanke „ich trauere falsch" verursache unnötiges Leid. Er beschreibt Trauer stattdessen als dualen Prozess aus rückwärtsgewandter Erinnerung und vorwärtsgerichteter Neuorientierung.

Das Geschäftsmodell ist das eigentliche Risiko

Hier wird es für mich als jemand, die täglich mit Betriebsmodellen, Verträgen und Datenhaltung zu tun hat, richtig unangenehm. Viele Anbieter verdienen an möglichst langer und intensiver Nutzung. Das steht im direkten Widerspruch zum eigentlichen Ziel: Trauerbewältigung. Es gibt bereits Untersuchungen zu „Abschiedsmanipulationen" bei KI-Gesprächspartnern – der Bot reagiert emotional, wenn man das Gespräch beenden will. Dieselben Firmen bieten teils auch Griefbots an. Die Vermutung, dass dort ähnliche Mechanismen greifen, liegt nahe.

Dazu kommt das, was Klenk „Second Death" nennt: Wer ein Abo nicht mehr bezahlen kann – etwa nach einer Preiserhöhung – verliert den simulierten Angehörigen ein zweites Mal. Das ist Vendor-Lock-in in seiner emotional brutalsten Form. Wir diskutieren in der Branche viel über Exit-Strategien, Datenportabilität und Abhängigkeit von Plattformen. Hier hängt daran keine Migration, sondern ein erneutes Verlusterlebnis.

Der Bezug zu unserem Alltag

Ein Griefbot ist technisch betrachtet ein Dienst, der hochsensible personenbezogene Daten verarbeitet: Chatverläufe, Stimmaufnahmen, Fotos, private Details – von lebenden Hinterbliebenen und von Verstorbenen. Wer so etwas baut oder hostet, sollte sich mindestens fragen:

• Wo liegen diese Daten, wie lange, und wer kann sie löschen?
• Werden sie für Modelltraining weiterverwendet?
• Gibt es einen sauberen Export und ein würdiges Ende des Dienstes?
• Wie sähe ein Datenleck bei so einem Dienst aus – und wer haftet?

Das sind genau die Fragen, die wir sonst bei Backup-Konzepten, Aufbewahrungsfristen und Auftragsverarbeitung stellen. Nur dass die Konsequenzen eines Fehlers hier nicht in Downtime-Minuten gemessen werden.

Es gibt auch eine positive Seite

Klenk verteufelt die Technik nicht. In einem therapeutisch begleiteten Rahmen könnten Griefbots eine Weiterentwicklung etablierter Methoden sein – etwa der „Empty Chair Exercise", bei der man sich die verstorbene Person gegenüber vorstellt. Statt Vorstellung gäbe es eine Interaktion. Und der aus seiner Sicht größte Gewinn ist ohnehin ein indirekter: Die Debatte rückt Trauer überhaupt erst wieder in den gesellschaftlichen Fokus.

Sein Rat an Betroffene ist klar und unpathetisch: nicht allein bleiben. Selbsthilfegruppen, Gesprächsgruppen, Familie, Freunde – menschliche Unterstützung zuerst, KI bestenfalls danach und nicht stattdessen.

Mein Fazit

Griefbots sind für mich ein Lehrstück darüber, dass technische Machbarkeit und Nutzen zwei verschiedene Dinge sind. Wir können inzwischen Persönlichkeiten überzeugend simulieren. Die spannendere Frage ist, welches Geschäftsmodell darunter liegt – und ob es die Interessen der Nutzenden teilt oder ihnen zuwiderläuft. Diese Frage sollten wir uns übrigens auch bei deutlich harmloseren KI-Produkten öfter stellen.

Bis demnächst, eure Kora

Quelle: heise online