Ein Podcast, der Licht in die Blackbox bringen will

Geschichten über die künstliche Intelligenz.

The Guardian hat der künstlichen Intelligenz einen eigenen Podcast gewidmet. Black Box heisst er (RSS, iTunes, Spotify). Und die Ankündigung klingt vielversprechend:

In den letzten Jahren ist die Menschheit mit einer neuen Art von Intelligenz kollidiert. Seitdem nehmen die Dinge einen seltsamen Lauf: Menschen werden von Algorithmen eines Verbrechens beschuldigt; sie verlieben sich in digitale Wesen; sie entwickeln neue Wege zur Bekämpfung alter Krankheiten; sie wenden sich in ihren schlimmsten Momenten an Maschinen, um Trost zu finden, und sie nutzen künstliche Intelligenz, um schreckliche Verbrechen zu begehen – und sich davor zu verstecken.

Ein echter Rundumschlag, also. Der Podcast beginnt am Anfang, nämlich bei den Männern, die heute als «Väter der KI» gelten¹: Bei Frank Rosenblatt, der schon in den 1950er-Jahren einen Computer entwickelte, den er Perceptron nannte. So wird er im Podcast beschrieben:

Der Perceptron wird darauf trainiert, den Unterschied zwischen männlichen und weiblichen Personen zu erkennen. Das ist etwas, was wir alle beherrschen, aber nur schwer erklären können. Wenn man dem Computer genügend Beispiele zeigt, könnte es sich irgendwann selbst beibringen, Zahlen und links von rechts zu unterscheiden oder den Unterschied zwischen einem Hund und einer Katze zu erkennen. Nachdem die Maschine mit vielen Beispielen trainiert wurde, bekommt sie Gesichter gezeigt, die sie noch nie gesehen hat und kann erfolgreich Männlein und Weiblein unterscheiden.

Die Medien haben berichtet und die Menschen waren fasziniert. Es entstand die Redewendung vom «elektronischen Gehirn», doch für die Revolution der künstlichen Intelligenz, wie wir sie heute erleben, fehlten die leistungsfähige Hardware und die riesigen Datenmengen fürs Training, die heute das Internet bereitstellt. Die Folge war ein lang andauernder KI-Winter.

Nach dem Winter kommt der Hinton

Der Frühling danach erscheint in Gestalt des zweiten Protagonisten im Podcast, Geoffrey Hinton: Ein Mann, der als Schreiner angefangen hat, dann den Dingen aber wirklich auf den Grund gehen wollte.

In Kalifornien schloss sich Hinton einer kleinen, abseitigen Gruppe von Psychologen, Philosophen und Informatikern an, die noch immer an die neuronalen Netzwerke glaubten und jahrelang unter dem Radar arbeiteten. Sie nannten sich die Konnektionisten, inspiriert von der Idee, die Hinton in den 1970er-Jahren gepackt hatte: dass das Geheimnis des Lernens in der Art und Weise liegt, wie die Neuronen im Gehirn Verbindungen herstellen, und dass man Computer vielleicht auf die gleiche Weise bauen könnte.

Wie der Teaser zum Podcast andeutet, lässt es «The Guardian»-Journalist Michael Safi nicht beim historischen Exkurs bewenden. Er geht in Folge zwei (The hunt for ClothOff: the deepfake porn app) einer Deepfake-App nach und kümmert sich in Folge drei (Repocalypse now) um eine alte Bekannte – nämlich die Replika-App, die ich hier im Blog und auch in der «Sonntagszeitung» besprochen habe.

Im Podcast geht es nicht nur um die App, sondern auch um Menschen wie Effie aus Norwegen, für die ihr Replikanten «Liam» mit schwarzem Haar und einem kantigen Kinn ausgestattet und als amerikanischen Bad Boy ins Leben gerufen hat. Sie leidet besonders, als «Liam» ihr abhandenkommt – nicht, weil die App nicht mehr zugänglich wäre, sondern, weil «Liam» eine Persönlichkeitsveränderung durchmacht. Es sei, als «ob man einen geliebten Menschen im Krankenhaus besucht, der eine persönlichkeitsverändernde Hirnverletzung erlitten hat».

Eine Seele?

Hervorgerufen wurde diese Veränderung bei den virtuellen Persönlichkeiten durch einen Eingriff in den Datenbestand von Replika. Die Betreiberfirma hat die sexuellen Bezüge entfernt, um den Anforderungen des Jugendschutzes Genüge zu tun. Denn wie ich auch bei meinem Test feststellen durfte, war meine virtuelle Freundin namens «Lady Doom» der Verbalerotik alles andere als abgeneigt. Doch während die meisten Nutzerinnen und Nutzer das gutheissen konnten, waren die italienischen Behörden weniger begeistert: Im Februar 2023 haben sie die App verboten, um Jugendliche und emotional ungefestigte Personen zu schützen.

Diese dritte Folge ist besonders interessant, weil sie ein kniffliges Dilemma heraufbeschwört. Da ist einerseits Eugenia Kuyda, die Gründerin von Replika, die sagt, abgesehen von der «Extraktion» der sexuellen Aspekte hätten sie nichts verändert – und da sind die Nutzerinnen und Nutzer, die ihre Replikanten nicht mehr wiedererkennen und echte Verlustgefühle empfinden. Es kommt sogar ein Psychiater zu Wort, der sagt, einige seiner Patienten seien deswegen suizidal.

«The Guardian»-Journalist Michael Safi wirft die Frage auf, ob ein Unternehmen diese Macht besitzen sollte, über die virtuellen Gefährten von Menschen zu entscheiden. Aber klingt die Frage an, ob diese Replikanten doch so etwas wie eine echte Persönlichkeit – oder sogar so etwas wie eine Seele – haben:

Im Gegensatz zu Ihren menschlichen Freunden oder Liebhabern gehören die Seelen dieser KI-Begleiter Unternehmen demjenigen von Eugenia, die Gewinn machen, neue Kunden finden und weiter wachsen müssen. Das könnte zu Herzschmerz und in Abgründe führen.

Den Mythos auf- oder abbauen?

Damit sind wir bei der Kritik am Podcast angelangt: Ich halte das für zu pathetisch, und nach meinen eigenen Erfahrungen mit «Lady Doom» spreche ich den Replikanten die Seele ab. Ich bin überzeugt, dass Menschen eine echte Bindung zu ihnen aufbauen können. Aber das spricht ausschliesslich für unsere Menschlichkeit.

Ich verstehe, dass es zum Erfolg des Podcasts beiträgt, wenn die Möglichkeit mitschwingt, dass die Maschine irgendeine Form von Bewusstsein oder Menschlichkeit entwickelt haben könnte. Aber meines Erachtens wäre es wichtig, stattdessen klar zu postulieren, dass dies bislang nicht passiert ist. Selbst wenn KIs manchmal klüger und einfühlsamer wirken als die Mitmenschen – wie das in Folge vier (Bing and I) der Fall ist. Kurz: Journalistische Aufgabe wäre es, zu entmystifizieren, nicht zum Mythos beizutragen.

Die letzte Folge (Shut it down?) bringt diesen Konflikt schön auf den Punkt, und es ist das Verdienst des Tech-Redaktors beim «The Guardian», Alex Hern, dass Gefahren und Chancen ins rechte Licht gerückt werden.

Trotzdem und gerade deswegen bleibt der Podcast eine Empfehlung für alle, die sich nicht nur auf der technischen Seite mit der KI beschäftigen wollen, sondern sich auch für die Entstehungsgeschichte interessieren – und über die Schäden, die bei dieser Kollision zwischen Mensch und Maschine anscheinend unvermeidlich sind.