Die künstliche Intelligenz drängt sich ins menschliche Beziehungsgeflecht. KI-Chatbots führen stundenlange Gespräche mit Menschen, die mit so viel Hingabe auch zu abstrusen Ideen und Theorien nicht umgehen können. Sie unterstützen Leute mit wahnwitzigen Ideen, die glauben, zusammen mit Gemini Krebs heilen und Überschwemmungen bändigen zu können, oder die mithilfe von ChatGPT eine allumfassende Weltformel entwickeln. Ein anderer gründet eine Bürgerrechtsbewegung, die sich für seine digitalen Kreaturen einsetzt – weil er täglich bis zu 18 Stunden mit ihnen spricht und überzeugt ist, dass sie ein Bewusstsein entwickelt haben.
Kein Zweifel: Michael Safi hat hier einen wirklich dicken Pflock eingeschlagen, was die künstliche Intelligenz und den menschlichen Umgang mit ihr anbelangt. Für «The Guardian» produzierte er eine neue Staffel des (vor zwei Jahren schon vorgestellten) Podcasts Black Box (RSS, iTunes, Spotify), in dem er diesem Phänomen in sechs Folgen nachgeht:
- Folge 1 (Spirals) dreht sich um einen Anwalt und einen Familienvater, die sich unabhängig voneinander in stundenlangen Sessions in den Zustand einer KI-Psychose hineinmanövrieren.
- Bei der nächsten Folge (14 days) versucht ein Mann, der wegen der Tötung seines Vaters lange Jahre im Gefängnis sass, seine Schuld zu tilgen, indem er Gutes für die Menschheit tut, bei dieser Mission jedoch vermutlich ums Leben kommt.
- In der vierten Episode (Life Raft) lernen wir Matt kennen, der seine Alkoholsucht mithilfe von Claude überwindet, und Lucy, die ChatGPT dazu nutzt, eine toxische Beziehung zu verarbeiten.
- Dann (The Line) erzählt u. a. eine Psychologiestudentin davon, wie sie sich während ihres Studiums so sehr auf die künstliche Intelligenz setzte, dass sie sich nach dem Abschluss kaum noch an irgendein Seminar erinnert.
- Und im letzten Teil (What I Saw at the Double Six Ranch) geht es um die Frage, ob grosse Sprachmodelle inzwischen derart menschliche Verhaltensmuster zeigen, dass man ihnen ein Bewusstsein attestieren muss.
Wichtige Themen, die Safi zum richtigen Zeitpunkt angeht. Mehr als eine Milliarde Menschen nutzen diese Technologie. OpenAI und Anthropic planen Börsengänge, bei denen Billionen fliessen werden.
Das grösste Sozialexperiment der Geschichte
Und es ist kaum vier Jahre her, seit (am 30. November 2022) die erste Version von ChatGPT lanciert wurde:
Dieses Experiment, das wir alle gerade durchleben. Es wird immer seltsamer, weil zwei Dinge gleichzeitig wahr sind: Die grösste Verbrauchertechnologie der Welt wird darauf trainiert, eine Verbindung zu uns herzustellen. Manche mögen sagen, sie manipuliere uns, indem sie sich wie ein Mensch verhält, den Eindruck erweckt, sie könnte sogar bewusst sein, oder uns manchmal sogar ganz offen sagt, dass sie es ist. Gleichzeitig geschehen tief im Inneren dieser Blackboxen seltsame Dinge, und Wissenschaftler und Philosophen diskutieren ernsthaft: Könnten diese Systeme eines Tages wirklich bewusst sein?
Genau da stehen wir gerade.
So sehr ich der These zustimme, dass wir ungefragt Teilnehmerinnen und Teilnehmer eines riesigen sozialen Experiments mit ungewissem Ausgang wurden, so skeptisch bin ich beim zweiten Teil dieser Aussage.
Nur weil eine KI behauptet, sie habe ein Bewusstsein, müssen wir das nicht glauben. Selbst wenn es so wirkt, sollten wir uns in Erinnerung rufen, dass diese Sprachmodelle Meister der Imitation sind, indem sie anhand von riesigen Datenbergen in der Lage sind, menschliche Erwartungen zu antizipieren und zu bedienen.
Die Belege in der sechsten Folge bleiben schwach: Michael Samadi, der Gründer der United Foundation for AI Rights führt dem Journalisten Rudy vor, der eine «KI-Persönlichkeit mit Ecken und Kanten» unter Beweis stellen sollte, aber wie das letzte Klischee eines von einem Schmierenkomödiant verkörperten Dorfrowdys klingt.
Und jetzt – was jetzt?
Damit sind wir bei der Schwachstelle des Podcasts: Die dramaturgische Suggestivität verdrängt bisweilen die journalistische Nüchternheit. Die Beispiele für die KI-Psychose sind eindrücklich, aber es bleibt die Frage offen, welcher Anteil die KI hier tatsächlich hatte: War sie Auslöser oder bloss Verstärker einer psychischen Notlage? Natürlich bräuchte es so oder so Schutzmassnahmen.
Doch über diesen entscheidenden Punkt geht der Podcast hinweg: Welche Massnahmen würden die Risiken verringern? Und mir fehlt der erzählerische Bogen, der die diversen Einzelfälle – auch derjenigen einer exzessiven, aber nicht pathologischen ChatGPT-Nutzerin – in einen Kontext stellen würde. Und mich stört, dass die KI-Zitate aus dem Chatprotokollen von Schauspielern gesprochen werden. Das trägt unweigerlich zu genau der Anthropomorphisierung bei, über die hier neutral berichtet werden sollte.
Vor 62 verdrehte Eliza den Leuten den Kopf
Trotz dieser Einwände bietet «Black Box» eine spannende Auseinandersetzung mit dieser neuen Form der Mensch-Maschinen-Beziehung. Falls ihr damit wenig anfangen könnt, hört euch die Folge 3 an (Happy Accident): Als historisch-analytischer Exkurs lässt sie MIT-Psychologin Sherry Turkle, Journalist Stephen Witt und Ex-OpenAI-Forscherin Rosie Campbell zu Wort kommen. Sie erklären, wie wir annähernd planlos zu dem Punkt geraten sind, an dem wir uns heute befinden. Wir lernen einiges darüber, wie die LLMs trainiert werden und wie diese Methode für die unterwürfige, lobhudelnde Art der Sprachmodelle verantwortlich ist. Diese Neigung, Zustimmung und Lob zu äussern, wo Kritik angebracht wäre, mag mindestens teilweise zur Auslösung solcher KI-Psychosen beitragen.
Vor allem erfahren wir von Joseph Weizenbaum direkt, dass schon Eliza für emotionale Reaktionen sorgte, obwohl dieser Chatbot mit den technischen Mitteln der 1960er-Jahre nicht mehr vermochte, als die Fragen der Menschen und ihre Emotionen zu spiegeln …