Normalerweise erfahren wir nicht, welche Daten über uns erhoben werden, während wir uns online oder im Umfeld von Kameras oder Sensoren tummeln. Doch zwei Websites machen solche verborgenen Aktivitäten auf spielerische Weise sichtbar. Sie zeigen auf, was die Algorithmen hinter unserem Rücken treiben… wobei das eine nicht wirklich passende Formulierung ist. Aber ihr wisst, was ich meine.
Die beiden Websites sind areyouyou.eu und hownormalami.eu. Bei beiden setzt man sich vor die Webcam bzw. Selfie-Kamera des Smartphones und lässt sich von den Algorithmen begutachten. Bei der ersten Websites geht es darum, spielerisch die Gesichtserkennung in die Irre zu führen: Man versucht, Grimassen zu schneiden, sodass die Software einen nicht mehr erkennt. Bei der zweiten erfährt man, wie einen die Algorithmen einschätzen: Sie ermitteln eine Reihe von Eckdaten und versuchen daraus, weitere Informationen wie die Lebenserwartung abzuleiten – was eine gruselige Angelegenheit ist.
Während man die Experimente durchführt, erhält man in Videoform Erklärungen von Tijmen Schep, einem Künstler und Technologie-Kritiker, der die beiden Websites mithilfe des EU-Projekts Sherpa finanziert. Das will, Zitat, «untersuchen, wie sich intelligente Informationssysteme (SIS; die Kombination aus künstlicher Intelligenz und Big-Data-Analytik) auf ethische und menschenrechtliche Fragen auswirken».
Und, damit das auch noch gesagt ist, Schep verspricht, dass die Gesichtserkennung und -analyse lokal im eigenen Browser stattfindet und keine Daten in die Cloud wandern. Was ich für glaubwürdig halte – denn erstens wäre es sehr perfid, eine Datensammel-Aktion als Aufklärung zu tarnen. Und zweitens gibt man keine Informationen preis, die ein engagierter Datensammler nicht schon längst besitzt.
Wer hätte das gedacht
Ich habe beide Experimente mitgemacht und war beeindruckt. Das ist bemerkenswert, weil ich mich als Journalist routinemässig mit solchen Algorithmen beschäftige. Zwar kam nichts zutage, was ich nicht erwartet oder für unmöglich gehalten hätte. Aber dennoch ist es aufschlussreich, selbst auf eine so unerbittliche Weise examiniert zu werden und am Ende mit den Resultaten konfrontiert zu werden.
areyouyou.eu
Also, die Erkenntnis war, dass es mir nicht gelungen ist, die Gesichtserkennung unter fünfzig Prozent zu drücken – was das Ziel des Spiels ist. Egal, welche Grimassen ich auch gemacht habe, die Software hat mich immer mit ausreichender Genauigkeit erkannt. Ich habe bei einem zweiten Durchlauf mit Requisiten gearbeitet und eine Sonnenbrille, einen Baseballkappe und eine Schutzmaske aufgesetzt.
Trotzdem war die Erkennungsrate noch über sechzig Prozent. Auch das sollte uns eigentlich nicht überraschen, da uns die Gesichtserkennung des iPhones mittels Face-ID inzwischen ebenfalls mit aufgesetzter Maske ausreichend genau identifizieren kann, dass sich Apple getraut, das Telefon auch bei Leuten mit Mund-Nasen-Schutz zu entsperren.
hownormalami.eu
Die zweite Website hat ermittelt, dass ich zu 58 Prozent normal bin. Ich habe, wie die meisten Leute, die Nutzungsbedingungen der Website nicht gelesen. Ich habe mein Alter mitgeteilt und dabei nicht gelogen. (Da bin ich aber nur knapp bei der Mehrheit, weil 44 Prozent der Nutzer offenbar beim Alter lügen). Auch beim Geschlecht bin ich «normal», weil die Website von deutlich mehr Männern genutzt wird als von Frauen. Apropos: Der Algorithmus sei sich zu 99 Prozent sicher, dass ich ein Mann sei, erfahre ich. Worüber der weibliche Teil meiner Seele schon ein wenig gekränkt ist.
Die Software ermittelt auch meinen Beauty-Wert, also eine algorithmisch vorgenommene Bewertung meines Aussehens und Attraktivität. Auch die bewegt sich im normalen Bereich, sodass ich künftig von mir behaupten darf, normal gut auszusehen. Tijmen Schep verrät an dieser Stelle, dass Tiktok diesen Wert verwende, um Inhalte schöner Menschen algorithmisch zu bevorteilen. Tja, allein deswegen wäre ich nicht unglücklich gewesen, den Rahmen zu sprengen – zumindest, wenn ich einen Ausreisser nach oben fabriziert hätte.
Mir bleiben noch 26 Jahre
Apropos Ausreisser: In drei Kategorien entspreche ich nicht der Norm. Mein Alter ist zu hoch (normal wäre 12 bis 32), mein BMI zu niedrig und meine Lebenserwartung aus unerfindlichen Gründen zu tief. Wenn es nach den Algorithmen geht, habe ich noch 26 Jahre. Zu dieser Prognose sagt Tijmen Schep, die sei mit Vorsicht zu geniessen, weil sie mit einem fragwürdigen Algorithmus aus Faktoren berechnet würde, die ihrerseits nicht hieb- und stichfest sind. Aber eben: Wir wissen nicht, wo sie überall eingesetzt werden und ob die Leute, die sie nutzen, sie hinterfragen. (Vermutlich tun sie das nicht, weil sie sie sonst eben nicht nutzen würden.)
Die App prüft auch den Ausdruck und versucht, die Gefühlslage zu ermitteln (siehe Warum Emotion-Tracking so gefährlich ist) und liegt dabei nicht falsch. Ausserdem trackt hownormalami.eu meine Aktivitäten mit der Maus und findet, ich sei im Vergleich viel zu aktiv und habe womöglich eine Konzentrationsstörung. Zu meiner Entschuldigung kann ich anführen, dass ich Screenshots vom Experiment gemacht habe.
Fazit: Es ist höchste Zeit, dass die Verwendung dieser Algorithmen zu regulieren. Das mindeste wäre eine Angabe, welche Algorithmen wann zum Einsatz kommen und welchem Zweck sie dienen.
Beitragsbild: Keine Ahnung, was die Gesichtserkennung von diesem Bild hält (Christopher Burns, Unsplash-Lizenz).