Zu einer guten Auskunft trägt auch fragwürdiges Datenmaterial bei

Eine KI, die Fragen nur anhand von zuverlässigen Quellen beantwortet? Das klingt nach einer hervorragenden Idee. Bei den gängigen Sprachmodellen können wir uns nie sicher sein, woher die Informationen stammen, auf denen die Antwort fusst¹. Falls das Sprachmodell eine Websuche heranzieht und Links zu den konkret verwendeten Sites ausgibt, gibt uns das die Möglichkeit für eine Quellenkritik an die Hand. Allerdings kann sich diese Überprüfung nur auf den Teil der Auskunft erstrecken, der aus der Websuche stammt. Den Anteil, der das Trainingsmaterial beisteuert, entzieht sich unserer Kontrolle.

Newsguard.ai will diese Lücke füllen. Diese KI beantwortet Fragen anhand von 12’000 journalistischen Quellen. Zur Rekapitulation: Newsguard ist eine Organisation, die seit 2018 Nachrichtenwebsites anhand objektiver Kriterien bewertet. Diese Angaben zu Finanzierung, Transparenz, Interessensverbindungen und Arbeitsmodus sollen Surferinnen und Surfern helfen, die Glaubwürdigkeit einer Nachrichtenquelle zu beurteilen und einen Artikel entsprechend einzuordnen. Bei meiner ersten Vorstellung gefiel mir der Umstand, dass diese Einordnungshilfe über ein Plug-in direkt im Browser auftaucht. Ich kam aber nicht umhin, harsche Kritik am Geschäftsmodell zu üben.

«Macht die KI uns dumm?»

Die ändert aber nichts daran, dass sich die Quellenkritik bei der KI nochmals deutlich anspruchsvoller wurde und Newsguard.ai eine echte Herausforderung adressiert. Die Frage ist natürlich, ob die Lösung passt. Um mir einen Eindruck zu verschaffen, frage ich diese KI plakativ, ob uns die KI denn dumm mache.

Der erste Absatz der Antwort lautet:

Medien wie das «Time Magazine» und der britische «Telegraph» titelten im Sommer 2025, KI-Nutzung erodiere kritisches Denken oder mache Menschen schlicht «dumm» (zeit.de). Doch laut einem Bericht von Die Zeit aus Dezember 2025 halten diese Schlussfolgerungen einer näheren Betrachtung nicht stand: Die meisten Studien konnten bisher keinen kausalen Zusammenhang zwischen KI-Nutzung und niedrigerer kritischer Denkfähigkeit beweisen. Forscherin Turker betont, dass eine vielzitierte Studie weder einen psychologischen Test zur Messung kritischer Denkfähigkeit verwendete noch kognitive Fähigkeiten vor und nach der Intervention verglich (zeit.de).

Erwähnt werden in der weiteren Auskunft auch SRF, «Business Insider», «Spektrum», Reuters und die «Washington Post»². Es fällt auf, dass die beiden Medien, welche die Dummheitsthese aufbrachten, zwar erwähnt, aber nicht verlinkt werden.

Das ist ein dickes Manko, denn fürs umfassende Bild würden wir auf alle Fälle auch die These lesen wollen, die hier widerlegt wird. Warum fehlen die Links? Es handelt sich in beiden Fällen um ernstzunehmende Medien. Vielleicht sperren sie ihre Inhalte für KI?

Ein KI-Duell der besonderen Art: Newsguard gegen Grok

Das bringt uns zu einer grundsätzlichen Feststellung: Wir brauchen Klarheit darüber, wie Inhalte im Web von der künstlichen Intelligenz genutzt werden können und wie nicht. Sonst bleiben wir auch bei hehren Ansätzen wie Newsguard.ai bei der Erkenntnis stecken, dass keine Transparenz herrscht, sondern bloss unterschiedliche Grade von Intransparenz. Das System des RSL Col­lec­tive könnte helfen, aber das köchelt noch immer auf sehr niedriger Flamme.

Versuchen wir die Gegenprobe und stellen wir Grok die gleiche Frage:

Nicholas Carr hat das 2008 in seinem berühmten Essay Is Google Making Us Stupid? beschrieben: Das Internet fördert oberflächliches Scannen statt tiefes Lesen und kontemplatives Denken. Die Gehirnplastizität passt sich an – häufiges Multitasking und schnelle Informationshappen können die Konzentrationsfähigkeit und tiefgehende Verarbeitung schwächen. KI (vor allem generative Modelle wie ChatGPT) verstärkt diesen Effekt noch, weil sie nicht nur sucht, sondern aktiv denkt und formuliert.

Ich finde den Bezug zu Carr sinnvoll. Elon Musks KI äussert sich differenziert und deutlich ausführlicher (4682 statt 3292 Zeichen). Natürlich sagt Quantität im KI-Bereich nichts aus, jedoch ist Grok auch inhaltlich interessanter. Das ist nicht verwunderlich, da dieses Sprachmodell direkt auf die Frage eingeht, während Newsguard die Medienberichte zum Thema in einem Pressespiegel reflektiert.

Es wird deutlich, dass Newsguard gegenüber der Konkurrenz beträchtliche Nachteile hat. Nicht nur spielt sie über Bande, sie muss auch mit einer viel schmaleren Datenbasis operieren. 12’000 seriöse Quellen klingt zwar nach viel. Doch andere Sprachmodelle greifen auf Milliarden von Datenlieferanten mit heterogener Datenqualität zurück.

Damit sind wir beim entscheidenden Punkt: Lohnt es sich, dieses Manko in Kauf zu nehmen?

Was mich angeht, lautet die Antwort nein. Ich komme zum gleichen Schluss wie bei meinem Test von Gist.ai vor einem Jahr – jene KI basiert ebenfalls auf journalistischen Quellen, und sie verwendet obendrein einen Verteilschlüssel, um die Informationslieferanten anteilig für ihre Auskünfte zu vergüten³: Ich will das ganze Bild betrachten können.

Die Kunst, das zu finden, wonach man sucht

Zu einer umfassenden Recherche gehören auch Quellen abseits des Journalismus. Die müssen nicht per se schlecht sein. Es gibt seriöse Blogger und Wissenschaftlerinnen, und selbst auf Reddit sind ab und zu solide Auskünfte zu finden. Und bei manchen Recherchen sind die abseitigen und fragwürdigen Quellen besonders gefragt. Einleuchtendes Beispiel: Wir wollen einer Verschwörungstheorie auf den Grund gehen, herausfinden, wie die Akteure vorgehen und die Erzählung sich verbreitet. Dann sind die schlechten Quellen das Anschauungsmaterial.

Ich empfehle daher, nicht die Quellen einzuschränken, sondern die Fähigkeit zu schulen, beim Prompten so exakt zu sein, dass man das findet, was man braucht. Ein hilfreicher Ansatz dafür ist das E-E-A-T-Modell. Ich beschreibe es ausführlich im Beitrag Keine Halluzinationen, keine Fake News: Eine Anleitung, um mit KI online zu recherchieren.

Abschliessend müssen wir uns folgender Dinge bewusst sein:

Die Weblinks in einer KI-Antwort bedeuten nicht automatisch, dass die verlinkte Quelle die entsprechende Aussage tatsächlich belegt. Bei vielen Systemen werden zunächst passende Textstellen aus einem Suchindex oder einer Vektordatenbank abgerufen und dem Sprachmodell als Kontext übergeben. Die Quellenangaben werden daraus während oder nach der Formulierung der Antwort zugeordnet. Dabei kann die Verbindung zwischen einer einzelnen Aussage und dem angegebenen Beleg ungenau oder fehlerhaft sein.

Erhöhte Halluzinationsgefahr

Ein KI-System, das nur auf wenige hochwertige Quellen zugreift, kann bei Themen ausserhalb dieser schmalen Informationsbasis eher unbelegte Aussagen erzeugen. Das gilt vor allem dann, wenn es dennoch eine vollständige Antwort liefern muss – dann besteht akute Halluzinationsgefahr. Eine breitere Quellenbasis schliesst mehr solcher Lücken, doch minderwertige Quellen erhöhen ihrerseits das Risiko falscher oder irreführender Antworten. Doch hier steuern wir mittels klugem Prompting gegen.

Wir stellen fest: Es ist kompliziert. Ich wiederhole daher den subtilen Hinweis vom Anfang. Es braucht absolute Transparenz über die Quellen bei allen Sprachmodellen. Das ist der Schlüssel zu guten Antworten – und zu einer fairen Entschädigung der Informationen, die sich die LLMs für ihre Auskünfte zu Eigen gemacht haben.