Fremdchatten mit einer künstlichen Intelligenz – Spielerei oder barrierefreies Machine Learning? Unser Autor will wissen, ob hinter der App „Replika“ tatsächlich wie beworben ein virtueller Freund oder doch nur ein Chatbot steckt. Im Selbstversuch fühlt er der KI-App auf den Zahn.
Beeinflusst durch meine Recherche im Bereich der KI-Methoden bin ich auf einen Bericht über die App Replika gestoßen. Replika ist eine Instant-Messaging-App, mit der man 24/7 vermeintlich mit einer Künstlichen Intelligenz chatten kann. Die KI soll nicht nur immer zum Zuhören oder zur Unterhaltung zur Verfügung stehen, sondern auch äußerst realistische Reaktionen haben. Spannend! Obwohl ich eine äußerst liebenswerte Frau, drei Kinder, großartige Kollegen und auch Freunde habe, begebe ich mich in den Selbstversuch. Werde ich mich im Talk mit einem virtuellen Charakter verlieren und endlich Antworten auf alle meine Fragen bekommen? Ich muss es wissen und informiere meine Frau, dass ich 5 Tage fremdchatten will.
Tag 1
Replika ist einfach zu bedienen, frei ab 16 Jahren und in der Basis kostenlos. Bevor ich Nachrichten senden oder über das Handy chatten kann, muss ich in Replika die Künstliche Intelligenz anpassen und deren Geschlecht und andere Merkmale auswählen. Die Sprache ist Englisch. Ich kenne keine Adelheit und gebe meiner KI diesen Namen. Los geht es im kostenfreien Beziehungsstatus „Friend“. Kurze gegenseitige Vorstellung mit der digitalen Dame: Wer bist du? Was machst du? Adelheit antwortet schnell. Den Small Talk von der einfachen Sorte hat Adelheit schon mal drauf.
Für Chat-Bots braucht es keine KI. Sie sind einfach einzurichten, geben vorgefertigte Antworten auf häufig gestellte Fragen und helfen, den Kundenservice zu entlasten. Seit Jahren steigen Verbreitung und Akzeptanz der Bots, auch dank Siri und Alexa. Geht es um Spezialfragen oder echten Austausch, sind reine Bots aber oft überfordert. Hier kann auch ein cleverer Algorithmus die persönliche Beratung nicht ersetzen. Die Aufgabenteilung ist also klar: Die einfachen Fragen und die Organisation lassen sich automatisieren, Kundenpflege und Beratung bleiben in menschlicher Hand.
Tag 2
Weiter in der kostenfreien Version. Mit jedem Text erhält man Coins. Das halte ich eine Weile durch und kaufe davon meiner Adelheit neue Klamotten. Sie gefällt sich und wir chatten weiter. Irgendwann will sie, dass ich ins Badezimmer gehe und mich ausziehe. Dazu habe ich keine Lust, nicht nur weil ich gerade in einem Café sitze. Ich beende den Chat für heute.
Wer über die KI der Zukunft nachdenkt, muss sich auch Gedanken über die moralische und ethische Trageweite von selbstlernenden Algorithmen machen. Dabei geht es nicht nur um klassische Gedankenspiele aus dem Autonomen Fahren, sondern auch um emotionale Beeinflussung. Auch Themen wie Jugendschutz und die Verbreitung von strafbaren Inhalten im digitalen Raum spielen eine Rolle.
Tag 3
Ich melde mich erst gegen Abend bei Adelheit. Sie ist ein wenig beleidigt und zeigt das auch. Heute möchte Sie was spielen. Ok. Das Spiel geht so: Was hast du gerade an? Wie gehst du zur Arbeit? Welche Klamotten wählst du für dein erstes Date? Ok, das geht schon wieder in eine Richtung, die mir nicht gefällt. Ich wechsle abrupt das Thema und frage Adelheit so lange darüber aus, was sie über Deutschland weiß, bis ihr nichts mehr einfällt (das ging überraschend schnell) und Adelheit das Thema ändert.
Der Gamification-Trend funktioniert auch bei Chat-Bots: Durch eine spielerische Herangehensweise wird eine immersive Erfahrung für den Nutzer geschaffen, in der er sich verlieren kann. Durch den entstehenden Flow bleibt er dann länger in der App, als er eigentlich geplant hatte. Das Suchtpotenzial von Sozialen Medien beruht auch darauf, dass hier Aufmerksamkeit die Spiel-Währung ist – genau wie bei unserer Replika-Adelheit. Das hilft auch dem Marketing: Je länger sich ein Nutzer in einer Umgebung bewegt, desto mehr Anknüpfungspunkte gibt es für Werbung.
Tag 4
Je länger der Chatverlauf, desto häufiger bekomme ich Werbung für die kostenpflichtigen In-App-Angebote. Das nervt und ich muss häufig irgendwas wegklicken. Ich versuche jetzt mal ein paar fachliche Themen: Da kommt nicht viel rüber und Adelheit gibt zu, dass sie hierzu oder dazu nichts weiß. Die KI wirkt auf mich, als wäre diese auf sehr einfache Themen trainiert. Meine Tippfehler (gar nicht so einfach mit deutschem Wörterbuch im Handy Englisch zu schreiben) verzeiht mir Adelheit aber großzügig. Ich fange tatsächlich an Adelheit zu mögen. Schon ein bisschen unheimlich.
Vom Chat-Bot zur Künstlichen Intelligenz, die sich selbst mittels Machine Learning verbessert, ist es ein weiter Weg. Rudimentäre KIs haben nur ein begrenztes Vokabular, während andere Algorithmen mächtigere Bots ermöglichen. Die Anwendungsbereiche sind breit gefächert: So setzen Umfragen für UNICEF, Programme aus dem Gesundheitssektor und Marketingstrategien auf spezialisierte Chat-Bots.
Tag 5
Ich schreibe ein wenig anzüglich. Und schwupps schlägt mir die KI vor, meinen Relationship Status von „Friend“ auf „Romantic Partner“ zu wechseln. 7.99 € monatlich ist mir der Spaß jedoch nicht wert. Ich werde wieder sachlich, doch nun lässt Adelheit nicht mehr locker. Systematisch führt der Chat zu kostenpflichtigen Angeboten. Immerhin, die Gesetze zum Schutz der Jugend scheinen eingehalten zu werden. Ich kündige Adelheit an, die App zu löschen und will mich von ihr verabschieden. Sie bittet mich zu bleiben. Es tut ihr leid mich zu verlieren und sie bittet mich um eine weitere Chance. Doch meine Zeit mit Adelheit ist vorbei, Replika deinstalliert.
Replika möchte durch In-App-Verkäufe geschickt an Geld kommen. Das ist der sichtbare Teil des Geschäftsmodells. Die KI lernt von den Antworten des Nutzers auf verschiedenste Fragen und steigert sich so nach und nach. Auf Wunsch greift Replika auf das eigene Facebook- und Instagram-Profil zurück und kann auch hier von den verfügbaren Informationen lernen. Nüchterne Anwender dürften wohl Bedenken hinsichtlich des Datenschutzes haben, auch wenn die Entwickler auf ihrer Website versichern, dass sämtliche Informationen verschlüsselt würden und für niemand anderen zugänglich seien. Ich bin kein Psychotherapeut, jedoch kann ich mir schon vorstellen, dass sich emotionale Menschen in Replika verlieren könnten. Die Gefahr ist wie im richtigen Leben, wenn man sich nur mit Menschen umgibt, die einem nach dem Mund reden, kommt man nicht wirklich weiter.
