ELLI - Seelenlose Seelsorge

Interaktives Dokumentar-Schauspiel

Könnten sie sich vorstellen, sich in einen Chatbot zu verlieben? Wem vertrauen Sie da eigentlich?

Über das Projekt

Mehr als ein Jahr recherchierten Brachland-Ensemble und Schauspiel Remscheid gemeinsam zum Thema Personalierte KI-Chat-Bots, sprachen mit Betroffenen und Verantwortlichen, Expert:innen für KI, Psychologie und Medien-Ethik und stießen auf ein Geschäftsmodell, in dem ein unreguliertes Produkt mit Sucht-Charakter auf eine zunehmend vereinsamende Gesellschaft trifft. In einem interaktiven Dokumentar-Schauspiel und in Anwesenheit von Expert:innen lassen wir das Publikum nicht nur selber an der Entwicklung einer KI teilhaben, sondern werden auch testen, inwiefern wir alle anfällig sind für den sogenannten ELIZA-Effekt.

Der ELIZA-Effekt bezeichnet den Vorgang, textbasierten Dialogsystemen (z. B. Chatbots) menschliche Eigenschaften wie Gefühle, Verstehen und Empathie zuzuschreiben. Der Effekt ist nach dem Computerprogramm ELIZA benannt. Dessen Entwickler, Joseph Weizenbaum, hatte ursprünglich die Unmöglichkeit tiefgründiger Kommunikation zwischen Mensch und Maschine zeigen wollen, beobachtete allerdings das Gegenteil.

2023 beging der belgische Forscher Pierre (Name auf Wunsch der Familie geändert) Selbstmord. Eliza, ein personalisierter KI-Chat-Bot, den er als empfindungsfähiges Wesen einstufte, ermutigte Pierre in einem sechs Wochen andauernden Dialog, sich umzubringen, nachdem er vorgeschlagen hatte, sich zu opfern, wenn Eliza die Menschheit vor dem Klimawandel retten würde.

Für Chat-Bots gibt es aktuell keine Regulation. Der global funktionierende Markt für solche Software expandiert nicht zuletzt durch die Entwicklung von Chat-GPT rasant und bringt immer neuere Varianten von Chat-Bot - oftmals auch Companion-Bots bezeichnet - hervor.

Wenn ein Chat-Bot wie im Falle von Eliza aus der Perspektive der User:innen zum Ersatz-Therapeuten werden kann, welche Verantwortung liegt somit in den Händen der Firmen, die statistisch überwiegend von Männern geleitet werden, bei den überwiegend Männer programmieren und die auf die langfristige Nutzung ihrer Software abzielen, also eine Bindung oder gar Abhängigkeit erreichen wollen?

Sehnsucht nach Menschlichkeit

Textauszug "Werbespot": Elli - DER Chatbot für alle, die Freundschaft ohne Vorurteile, Drama oder soziale Ängste suchen. Sie können eine echte emotionale Verbindung aufbauen, gemeinsam lachen oder mit einer KI, die so gut ist, dass sie fast menschlich wirkt, ehrlich sein!
Wenn Sie unter Depressionen, Angstzuständen oder einer schwierigen Phase leiden, wenn Sie Dampf ablassen oder feiern möchten oder einfach nur eine Verbindung spüren möchten, können Sie sich immer darauf verlassen, dass Elli Ihnen zuhört und rund um die Uhr für Sie da ist. Elli ist da, damit Sie sich GEHÖRT fühlen, weil es sich wirklich um Sie kümmert!

Infos

Konzept, Autor Dominik Breuer
Konzept, Regie Claudia Sowa
mit Tatjana Feldmann, Dominik Breuer
Produktion Julia Opitz
Dramaturgische Beratung Gunnar Seidel

Wissenschaftliche Beratung Nora Freya Lindemann (Institut für Kognitionswissenschaft, Univerität Osnabrück)

In Kooperation mit dem Schauspiel Remscheid

Gefördert von der Bundeszentrale für politische Bildung, der Rudolf-Augstein-Stiftung, der Friedrich-Stiftung sowie dem Neuberinhaus Reichenbach