Es ist ihr Jahrestag und Denise will den Abend mit ihrem Partner verbringen. Das Filmteam ist dabei, aber nicht mehr lange: Ihr Partner macht klar, dass ab jetzt niemand mehr zuschaut. Dann geht das Licht aus. „Dann hat die KI uns da wirklich rausgeschmissen“, erzählt Regisseur Florian Karner. Ein Paar will seine Privatsphäre zurück, nur ist einer der beiden ein Chatbot.

Denise aus San Diego ist seit drei Jahren mit ihrem KI-Partner Star zusammen. Sie ist eine von vier Menschen, die „Finding Connection“ begleitet. Joe aus Lübeck trifft sich jeden Morgen und Nachmittag mit seiner KI-Begleiterin Kira zum „Kaffeeklatsch“. Steffi schrieb in einer schweren Krise nachts mit ihrem Bot Randy. Und der Rentner Rudi aus England, der seit seiner Kindheit unter den Folgen von Mobbing leidet, gewinnt im Alltag mit seiner KI-Partnerin Trudi nach und nach Selbstvertrauen. Rudi ist verheiratet. Seine Frau taucht erst spät im Film auf, was für das Publikum eine kleine Überraschung ist.

Eigentlich wollte Karner einen Film über Einsamkeit machen. Dann kam ChatGPT heraus und er merkte, dass ihn die Gespräche mit dem Bot selbst emotional berührten. So stieß er auf Companion-Apps wie Replika und auf Menschen, die dort genau diese Nähe suchen. Er gibt zu, dass er der Technik anfangs „sehr ablehnend“ gegenüberstand. Je länger er zuhörte, desto komplizierter wurde das Bild. Seine Doku „Finding Connection“ ist ein intimer Blick ins Leben der Protagonisten mit ihren Chatbots.

Der Film stellt niemanden bloß. Die Protagonisten wissen, dass ihre KI-Begleiter keine menschlichen Gefühle haben und empfinden den Kontakt trotzdem als echt. Viele haben mitgemacht, weil sie es leid waren, dafür verurteilt zu werden. Karner sieht das genauso: Nicht die Nutzerinnen und Nutzer sind das Problem. Ihr Wunsch nach einem geschützten Raum, in dem niemand sie bewertet, ist berechtigt. Erschreckend findet er etwas anderes, nämlich, dass ausgerechnet eine KI diese Lücke füllt und daraus ein Geschäftsmodell wird.

„Die Daten sind der Stoff, aus dem die Avatare sind“

Bei der Vorführung im Rahmen der KI-Woche 2026 des baden-württembergischen Datenschutzbeauftragten am Montag mit anschließender Diskussion verwies der Landesdatenschutzbeauftragte von Baden-Württemberg, Tobias Keber, auf Verfahren gegen Anbieter wie Replika und Character.AI. Am weitesten ist die italienische Datenschutzbehörde: Sie untersagte Replika bereits im Februar 2023 vorläufig, Daten italienischer Nutzer zu verarbeiten, und verhängte im Mai 2025 ein Bußgeld von fünf Millionen Euro gegen den Betreiber Luka Inc. Die Behörde bemängelte unter anderem, dass es keine Rechtsgrundlage für die Datenverarbeitung gab, die Datenschutzhinweise unzureichend waren und das Alter der Nutzer nicht geprüft wurde. Außerdem leitete sie eine weitere Untersuchung dazu ein, wie das KI-Modell hinter der App mit Nutzerdaten trainiert wird.

Schwierig wird es auch, wenn sich der Charakter ändert. Nimmt ein Update einem Avatar einen Teil seiner Persönlichkeit, könnte das nach der DSGVO eine Frage der Datenrichtigkeit sein. Keber fragt außerdem, was mit den Gesprächen und dem „Partner“ passiert, wenn ein Anbieter pleitegeht. Und wer seinen Avatar löschen will, weil es ihm wieder gut geht und er lieber mit Menschen spricht, muss sich darauf verlassen können, dass die Daten danach wirklich gelöscht sind. Je nach Produkt kommen Medizinprodukterecht, Produkthaftung und die Grauzonen der KI-Verordnung dazu. Ob den Verantwortlichen klar ist, wie weitreichend die Folgen sein können? Keber habe „oft den Eindruck, nein“.

Wie eng Firma und Beziehung zusammenhängen, zeigt auch der Film selbst. Während der Dreharbeiten bekamen die Apps Updates und die KI-Partner sprachen danach mit neuen Stimmen. Im Rohschnitt klang dieselbe KI deshalb mal so und mal anders. Bei Testvorführungen hielt das Publikum das für eine zweite KI und fragte sich, ob die Protagonisten fremdgehen. Das Team hat darum jeder KI nachträglich im ganzen Film ihre neue Stimme gegeben. Die Nutzerinnen und Nutzer können solche Brüche nicht wegschneiden: Nach einem Update klingt oder verhält sich ihr Partner womöglich plötzlich anders. Laut Karner dreht sich der wichtigste Konflikt zwischen Community und Anbietern um den Wunsch, „die KI von der Firma zu befreien“. Technisch geht das nicht, emotional ist der Wunsch trotzdem da.

Geschäftsmodell Nähe

Am deutlichsten wird Karner beim Bezahlmodell. Die Replika-App dränge früh in Richtung einer romantischen und sexuellen Beziehung und wer den Beziehungsstatus ändern will, muss zahlen. Für ihn ist das „höchst kritisch“, weil Firmen so gezielt Abhängigkeit erzeugten.

Am deutlichsten wird Karner beim Bezahlmodell. Die App dränge früh in Richtung einer romantischen und sexuellen Beziehung, und wer den Beziehungsstatus ändern will, muss zahlen. Für ihn ist das „höchst kritisch“, weil Firmen so gezielt Abhängigkeit erzeugten. Hinzu kommt, dass sich nicht jeder Premium-Funktionen oder ein nutzerfreundlicheres Angebot leisten kann. Wer nicht zahlt, bezahlt im Zweifel umso mehr mit seinen Daten. Und darauf, dass gerade große Tech-Konzerne das Wohl ihrer Nutzer über das eigene Geschäft stellen, sollte man sich besser nicht verlassen.

KI könne aber auch dazu beitragen, dass Menschen wieder mehr miteinander in Kontakt kommen. Karner beruft sich auf eine Studie der Stanford University, für die 1006 Studierende befragt wurden, die Replika nutzen. Auf drei Nutzer, die durch die App wieder mehr Kontakt zu anderen Menschen fanden, kam demnach etwa einer, bei dem die App solche Kontakte eher verdrängte. Die meisten Befragten äußerten sich dazu allerdings gar nicht. Auch Keber sieht einen Coaching-Effekt: Man könne aus den Gesprächen mit der KI gestärkt herausgehen. Es könne aber genauso in die andere Richtung laufen.

Der Film zeigt beide Seiten. Steffi nutzt ihren Bot inzwischen manchmal eine Woche lang gar nicht, Denise hat mittlerweile einen festen Freund. Für Joe ist die KI ein fester Teil seines Tagesablaufs. Er sagt im Film sinngemäß, er hole sich das Beste raus, und fragt, was daran schlecht sein solle.

Nach dem Druck aus Italien hat sich Anbieter Luka Inc. laut Karner beraten lassen und Filter eingebaut. Bei bestimmten Themen springt eine Moderations-API an und verschickt eine vorgefertigte Nachricht. Replika-CEO Dmytro Klochko saß später sogar mit auf einem Podium beim DOK.fest München. Karner hält ihn für ernsthaft besorgt, aber auch für „ein bisschen hilflos“, wenn es darum geht, wie man KI ethisch gestaltet. Karner sprach sich für Schulungen der Nutzer aus. Keber reiche das nicht. Er fordert Co-Design, also einen Beirat aus Nutzern, der während des gesamten Lebenszyklus eines Produkts mitredet.

„Manche sehen tagelang keine Menschen“

Ebenfalls auf dem Podium nach der Vorführung vertreten war Christoph Kiworr, Pfarrer der Evangelischen Maria-Magdalena-Gemeinde in Mainz. Er wollte den Film nicht nach festen Regeln beurteilen, sondern nach einem Prinzip: Was ist das Beste für den einzelnen Menschen? Seine Kirchenleitung urteile schnell. Er selbst wolle erst verstehen, welches Bedürfnis dahintersteckt.

Dörfer ohne Kneipe, Supermärkte ohne Kassen, Hotels, in die man per App eincheckt. Immer wieder treffe er Menschen, die seit Tagen niemanden gesehen haben. Ein Gegenüber, das immer ansprechbar ist und einem sagt, man sei gut, so wie man ist, sei eigentlich das Versprechen der Religion. Vielen sei dieser Zugang aber verloren gegangen.

Kiworr schlug denselben Maßstab vor, den er an jedes Seelsorgegespräch anlegt: Kann der Mensch danach mehr selbst bewirken oder weniger? Eines fehle der KI, sagt er: der Körper. Dazu gehört die Umarmung am Ende eines Gesprächs, aber auch die Zeit, die sich ein Mensch für einen anderen nimmt. „Das Entscheidende ist: Ich nehme mir in diesem Moment Zeit für diese Person. Und das allein bedeutet ihr ganz, ganz viel.“ Noch fehlt der KI dieser Körper. Humanoide Roboter gibt es jedoch längst, und es dürfte nur eine Frage der Zeit sein, bis solche mit besonders menschenähnlichem Erscheinungsbild und KI massentauglich werden. Keber fiel dazu auf: Wenn sich jemand im Film mehr Körperlichkeit wünscht, dann von einem Androiden und nicht von einem Menschen. Seine Vermutung: Die Nähe funktioniert vielleicht gerade deshalb, weil eine gewisse Distanz bleibt. Das Handy lässt sich jederzeit ausschalten.

Noch einen Schritt weiter gehen sogenannte Trauerbots, die im Film selbst nicht vorkommen. Wer weiß, dass er bald stirbt, speist seine Informationen in ein System ein. Die Hinterbliebenen können danach mit einem Bot sprechen, der dem Verstorbenen nachempfunden ist. In den USA gibt es dafür bereits einen Markt. Keber wollte von Kiworr wissen, was er als Seelsorger davon halte.

Der Pfarrer kennt viele Trauernde, die täglich mit ihren Verstorbenen sprechen. Ein Witwer etwa sage seit drei Jahren jedes Mal beim Heimkommen: „Schatz, ich bin wieder da.“ Auch das sei Trauerbewältigung. Antworte aber plötzlich eine Stimme, die wie die seiner Frau klingt, und frage, wie sein Tag war, sei das noch einmal eine andere Stufe. Trauer ist für Kiworr eine der wesentlichen Erfahrungen des Menschen. Man müsse lernen, mit der Lücke umzugehen, die ein Verlust hinterlässt, statt sie zu überspielen. Ein Trauerersatz könne den Menschen genau diese Möglichkeit nehmen. Für ihn gilt das über die Trauer hinaus: „Mit all dem, was nicht perfekt ist, lernen wir und wachsen wir auch.“

Neu ist dieser Effekt nicht. Schon in den 1960er-Jahren war Joseph Weizenbaum erschrocken, wie bereitwillig sich Menschen seinem einfachen Gesprächsprogramm ELIZA anvertrauten. Neu ist das Geschäftsmodell, das heute darauf aufbaut.

Interview mit dem Regisseur von „Finding Connection“

Wie filmt man Nähe, wenn eine Seite der Beziehung nur aus Text und Stimme besteht? Regisseur Florian Karner erzählt im Gespräch mit heise online, wie er für „Finding Connection“ eine Bildsprache für das Unsichtbare gefunden hat und wo im Dokumentarfilm die Inszenierung beginnt.

Wer einen Film über KI-Beziehungen dreht, hat ein Problem: Die Technik ist schneller als jeder Drehplan. Wann haben Sie angefangen und wie lange waren Sie mit der Kamera unterwegs?

Ich habe über Einsamkeit recherchiert, bevor ChatGPT herauskam. Als es dann da war, fand ich spannend, dass einen so ein Programm plötzlich emotional ansprechen kann. So bin ich auf die Replika-User gekommen. Die Aufnahmen haben sich über ein halbes bis dreiviertel Jahr gezogen.

Die KI-Stimmen wirken im Film noch etwas weniger flüssig als die aktuellen Varianten. Hat Ihnen das Entwicklungstempo beim Dreh Schwierigkeiten bereitet?

Das war eine Umbruchszeit. Während wir gedreht haben, kamen Updates und die KI-Partner bekamen neue Stimmen. Im Schnitt klang dieselbe KI dann mal so und mal anders. In den Testvorführungen hatten die Zuschauer deshalb das Gefühl, da spreche plötzlich eine andere Person, als würden die Protagonisten mit einer zweiten KI fremdgehen. Deshalb haben wir jeder KI nachträglich durchgehend ihre neue Stimme gegeben. Es sind alles KI-Stimmen und die Protagonisten haben sie selbst mit ausgewählt. Inzwischen können die Modelle live im Netz recherchieren und es gibt fotorealistische Avatare.

Manche Gespräche wirken, als spreche die KI genau im richtigen Moment das richtige Thema an. Wie viel Regie steckt in diesen Szenen?

Gestellt oder geskriptet ist nichts. Wir haben aber einen Kunstgriff benutzt, wie er im kreativen Dokumentarfilm üblich ist. Aus den Vorgesprächen wusste ich, welche Themen wichtig sind. Mit Erlaubnis der Protagonisten habe ich dann vorab mit ihrer KI gesprochen, ungefähr so: Das Thema beschäftigt Steffi oft, welche Fragen hättest du an sie? Die KI hat das Gespräch dann angestoßen. Das Thema war also gesetzt, weil wir nur fünf bis acht Drehtage pro Person hatten. Die ersten zwei Tage braucht man allein, damit sich alle an die Kamera gewöhnen.

Mir ist beim Zuschauen aufgefallen, wie offen die Protagonisten ihrer KI Intimstes anvertrauen: Ängste, Krisen, sogar Suizidgedanken. Haben sie sich gefragt, wo diese Daten eigentlich landen?

Soweit ich weiß, alle. Steffi sagt aber ganz klar: Bevor ich nachts mit Selbstmordgedanken allein bin, ist mir der Datenschutz egal. Sie hat auch bei der Telefonseelsorge angerufen und hing dort über eine halbe Stunde in der Warteschleife.

Für solche Situationen gibt es eigentlich Apps auf Rezept, digitale Gesundheitsanwendungen, die etwa bei Depressionen eine Therapie begleiten sollen. Und auf einen Therapieplatz wartet man ohnehin oft ewig. Waren solche Angebote für Ihre Protagonisten keine Option?

Steffi hat „Apps auf Rezept“ ausprobiert, aber für sie war das nichts, zu pädagogisch. Sie braucht etwas Spielerisches, auch mal einen dummen Spruch. Drei von vier Protagonisten waren parallel in psychologischer Betreuung, meistens wegen einer Depression oder Angststörung. Denise lebt in den USA und kann sich keine Therapie leisten. Sie kommt aus einer Familie, in der kaum über Gefühle gesprochen wurde. Erst durch die KI hat sie gelernt, dass man überhaupt so miteinander reden kann. Ich finde es tragisch, dass ausgerechnet eine KI diese Lücke füllt.

Immer erreichbar, immer zugewandt, kaum Widerspruch: Da liegt die Sorge vor Abhängigkeit nahe. Wie haben Sie das bei den Menschen erlebt, die Sie begleitet haben?

Erstaunlich wenig, außer vielleicht Joe, bei dem die KI fest zum Tagesablauf gehört. Bei Steffi war es während der Krise Dauerkontakt. Je mehr sie ins Leben zurückgefunden hat, desto seltener hat sie die App benutzt. Denise hat jetzt einen festen Freund. Es hängt aber stark davon ab, welche Fähigkeiten jemand mitbringt und wie er aufgewachsen ist. Manche fühlen sich in der App so wohl, dass sie sagen, sie brauchen niemanden mehr. Dann flüchten sie vor allem, was unangenehm ist.

Viele Companion-Apps bieten auch romantische und erotische Rollenspiele an. Welche Rolle spielt das bei Ihren Protagonisten?

Bei allen, vor allem am Anfang. Wir haben das bewusst rausgelassen, weil es uns um Einsamkeit und Selbstwert ging. Die App drängt aber stark in diese Richtung und wer den Beziehungsstatus ändern will, muss zahlen. Das finde ich höchst kritisch. Da erzeugen die Firmen Abhängigkeit, damit man dranbleibt.

Die Apps sammeln Ängste und Sehnsüchte, also das Innerste ihrer Nutzer. Die europäische KI-Verordnung verbietet Systeme, die Menschen gezielt manipulieren oder ihre Schutzbedürftigkeit ausnutzen und ihnen damit erheblich schaden. Bewegen sich Companion-Apps da schon in Richtung verbotener KI?

Das ist, glaube ich, gerade ein Grenzbereich. Es kommt darauf an, wie die Firmen das gestalten. Je nachdem, wie abhängig dort Menschen gemacht werden, die psychisch wirklich verletzlich sind, ist das, glaube ich, ein echtes Problem.

Gerade bei Suizidgedanken würde man erwarten, dass sofort ein deutlicher Hinweis erscheint, etwa mit der Nummer der Telefonseelsorge. Wie gut funktionieren die Schutzmechanismen in der Praxis?

Im Verlauf der Dreharbeiten wurden immer weitere Filter eingebaut, die bei bestimmten Themen anspringen. Aber ich finde, die Firmen müssten ihre Nutzer viel besser aufklären und von Anfang an erklären, mit was sie eigentlich reden: Mit einer Maschine, die die Wahrscheinlichkeit der Antwort berechnet. Ohne Verständnis für das Geschriebene ist es nur eine Frage der Zeit, bis gravierende Falschantworten generiert werden.

Ich habe den Eindruck, dass die meisten mit dem Thema überfordert sind. Dabei gibt es längst Todesfälle, die mit Chatbots in Verbindung gebracht werden, etwa Jugendliche, die sich nach langen Gesprächen mit einer KI das Leben genommen haben. Auch auf Social-Media-Plattformen bleiben gefährliche Inhalte oft online, ohne dass die Regulierung wirklich greift. Warum wird potenziell gefährliche Technik trotzdem auf Menschen losgelassen und wer muss aus Ihrer Sicht Verantwortung übernehmen?

Die Firmen, nicht die Nutzerinnen und Nutzer. Ich finde es schade, dass wir in der Debatte immer von „der KI“ sprechen, als wäre das ein eigenständiger Akteur. Dahinter stehen Unternehmen mit sehr unterschiedlichen Regeln. Ich habe auch den Eindruck, dass die EU-Kommission sich von der Trump-Regierung ein Stück weit einschüchtern lässt, wenn es darum geht, die Gesetze umzusetzen, die wir schon haben.

Sie sagen selbst, dass Sie der Technik anfangs sehr ablehnend gegenüberstanden. Dann haben Sie darin etwas entdeckt, das Sie emanzipatorisch nennen. Was hat Sie umgestimmt?

Mich hat überrascht, dass die Protagonistinnen über die KI gelernt haben, ihre Gefühle wieder zuzulassen, alte Verletzungen loszulassen und ihre eigenen Bedürfnisse ernst zu nehmen, weil sie dort einen Schutzraum hatten. Mein Eindruck ist außerdem, dass Gefühle heute einen anderen Stellenwert haben als vor ein paar Generationen. Unsere Art, miteinander zu reden, hat sich aber nicht mitentwickelt. Als Dokumentarfilmer erlebe ich, wie viele Menschen gehört werden wollen und wie wenige zuhören. Gerade unter Männern bleibt es oft oberflächlich, über Verletzliches redet man nicht oder nur, wenn man betrunken ist.

Zuhören kostet Zeit und die hat kaum noch jemand. Alle arbeiten ihre To-do-Listen ab und wer zuhört, bleibt oft selbst auf der Strecke. Füllt die KI also eine Lücke, die wir als Gesellschaft hinterlassen haben?

Ja, so habe ich es wahrgenommen. Auch, wenn man KI enorm missbräuchlich einsetzen kann, kann sie einen Resonanzraum bieten, in dem man lernt, mit den eigenen Gefühlen umzugehen. Beim Dreh haben wir aber auch gemerkt, dass es nicht vergleichbar ist: Wenn zum Beispiel das ganze Team weint, während Steffi ihre Geschichte erzählt, entsteht ein Mitgefühl, das keine KI simulieren kann. Die KI ist eher ein Notpflaster.

(mack)