Ein Link ist noch kein Beleg: Warum Quellenangaben in KI-Antworten nichts über ihre Richtigkeit sagen
Eine KI-Antwort mit Quellenangabe wirkt geprüft. Wer will, kann nachlesen. Eine neue Studie zu Gesundheitsfragen in Google zeigt, wie wenig diese Erwartung trägt: Die verlinkten Seiten deckten oft nicht, was neben ihnen stand. Und ob die Antwort richtig war, hatte mit ihren Belegen nichts zu tun.
3.611 Gesundheitsfragen, Google AI Overviews mit US-Einstellungen, erhoben im September 2026. Preprint, noch nicht begutachtet.
- →Eine neue Studie hat 3.611 Gesundheitsfragen bei Google gestellt und die AI Overviews auf drei Ebenen geprüft: welche Quellen sie zitieren, ob diese Quellen die Aussagen decken und ob die Antwort nach ärztlichen Kriterien richtig und vollständig ist.
- →Rund 43 % der zitierten Aussagen waren durch die verlinkte Seite nicht gedeckt. Weitere 21 % aller Aussagen waren Fakten-Behauptungen ganz ohne Quelle.
- →Der zentrale Befund: Wie gut eine Antwort belegt war, hing nicht damit zusammen, wie richtig sie war. AI Overviews ohne jede Quellenangabe schnitten genauso ab wie solche mit Quellen. Das ist möglich, weil die Antwort aus dem Wissen des Modells und den abgerufenen Inhalten entsteht. Die angezeigten Links sind ein eigener Schritt und belegen nicht zwingend, woher die Aussage stammt.
- →Für GEO heißt das: Eine Zitierung zeigt Sichtbarkeit, aber nicht, dass die eigene Seite die Aussage trägt, neben der sie steht.
- →Methodik: Preprint ohne Begutachtung, englische Fragen aus einem Medizin-Benchmark, US-Einstellungen, drei Erhebungstage. Bewertet wurde automatisiert, abgeglichen an menschlichen und ärztlichen Urteilen.
Zitiert heißt nicht gedeckt
In „Erfundener Begriff, echte Zitate“ haben wir gezeigt, dass eine zitierte Quelle nicht automatisch den Antworttext prägt. Die neue Studie geht einen Schritt weiter. Sie fragt nicht nur, ob der Inhalt einer Quelle in der Antwort landet, sondern ob die Quelle die Aussage belegt, neben der sie steht, und ob gut belegte Antworten auch die richtigeren sind.
Drei Prüfungen an 3.611 Gesundheitsfragen
Ein Team der Northwestern University hat im September 2026 an drei Tagen 3.611 Fragen aus HealthBench bei Google gestellt, einem Benchmark mit medizinischen Fragen und Bewertungskriterien, die Ärzte formuliert haben. In 96,4 % der Fälle erschien ein AI Overview. Die Forscher verglichen dessen Quellen mit den fünf obersten klassischen Treffern, prüften automatisiert jede einzelne Aussage gegen die zitierte Seite und bewerteten die Antworten nach den ärztlichen Kriterien.
Auffällig ist, wo die Antworten Punkte verloren. Bei der Richtigkeit erreichten sie gut die Hälfte der Punkte, bei der Vollständigkeit nur gut ein Fünftel. Die meisten Punkte kostete also, was fehlte. Gerade das fällt beim Lesen aber nicht auf.
Belegt und richtig sind zwei verschiedene Dinge
Am wichtigsten ist der Vergleich der Ebenen. Naheliegend wäre: Je besser eine Antwort belegt ist, desto eher stimmt sie. Genau das fanden die Forscher nicht. AI Overviews mit gut belegten Aussagen waren im Schnitt nicht richtiger oder vollständiger als solche mit schlecht belegten. Der Statistikwert dafür, die Rangkorrelation, lag bei 0,01. Er reicht von −1 bis 1 und misst, ob zwei Größen gemeinsam steigen. Ein Wert nahe 0 heißt: kein Zusammenhang. Der direkte Vergleich passt dazu. AI Overviews ganz ohne Quellenangabe erreichten sogar etwas mehr Punkte als solche mit Quellen, der Unterschied ist aber so klein, dass er Zufall sein kann.
Wie kann das sein? Die Studie erklärt es nicht, naheliegend ist aber Folgendes: Ein AI Overview entsteht aus dem, was das Sprachmodell gelernt hat, und aus den Inhalten, die es zur Frage abruft. Welche Links daneben angezeigt werden, ist ein eigener Schritt. Die Quellenangabe dokumentiert also nicht zwingend, woher eine Aussage stammt, sondern verweist auf Seiten, die zur Aussage passen sollen. Fehlt sie, kann die Antwort trotzdem auf demselben Wissen beruhen und genauso richtig oder falsch sein.
Das heißt nicht, dass Quellen egal sind. Es heißt, dass die sichtbare Quellenangabe kein Qualitätssignal ist. Eine Antwort kann gut belegt und trotzdem unvollständig sein, eine richtige Aussage kann ohne Beleg dastehen. Wer nur prüft, ob eine Quelle angezeigt wird, weiß deshalb weder, ob die verlinkte Seite die Aussage trägt, noch, ob die Antwort stimmt.
Einschränkung: Die Fragen stammen aus einem Benchmark und sind länger als typische Suchanfragen. Die Belegprüfung lief mit dem Prüfmodell HallOumi, das in einer Stichprobe von 100 Aussagen zu 81 % mit menschlichen Codierern übereinstimmte und eher zu streng urteilte. Die Bewertung nach ärztlichen Kriterien übernahm GPT-4.1, das dabei ähnlich gut mit Ärzten übereinstimmte wie Ärzte untereinander. Die Autoren werten ihre Zahlen deshalb als Vergleich, nicht als absolutes Urteil. Ihre Empfehlung, AI Overviews bei Gesundheitsfragen im Zweifel auszublenden, ist eine Schlussfolgerung, kein Befund.
Behauptung: „Eine Quellenangabe zeigt, dass die KI-Antwort geprüft ist.“
Einordnung: Nein. In der Studie waren rund 43 % der zitierten Aussagen durch die verlinkte Seite nicht gedeckt. Und gut belegte Antworten waren im Schnitt nicht richtiger als schlecht belegte.
Behauptung: „Eine hohe Zitierquote ist ein GEO-Erfolg.“
Einordnung: Nur zum Teil. Sie zeigt, dass die eigene Seite gesehen wird. Ob sie die Aussage trägt, neben der sie steht, und ob die Antwort stimmt, misst sie nicht.
Behauptung: „Die Studie belegt, dass AI Overviews bei Gesundheitsfragen gefährlich sind.“
Einordnung: So pauschal nicht. Bei Fragen, für die Ärzte eine bestimmte schädliche Aussage vorab definiert hatten, kam diese in 22 % der Antworten vor. Die Bewertung lief aber automatisiert, und die Autoren verstehen ihre Werte selbst als Vergleich, nicht als absolutes Urteil.
Behauptung: „Die Ergebnisse gelten auch für Deutschland.“
Einordnung: Das ist offen. Gemessen wurde auf Englisch mit US-Einstellungen an drei Tagen im September 2026. Die Quellenlage in deutschen Gesundheitsfragen ist eine andere.
Die Zitierung ist erst die zweite Stufe
GEO misst meist, ob eine Marke oder Seite zitiert wird. Die Studie zeigt, dass danach mindestens zwei weitere Prüfungen kommen sollten: Trägt die zitierte Seite die Aussage, neben der sie steht? Und ist die Antwort insgesamt richtig und vollständig genug, um damit zu handeln?
Für Unternehmen hat das zwei Seiten. Die erste ist ein Reputationsrisiko: Die eigene Seite kann als Beleg neben einer Aussage stehen, die sie gar nicht macht. Für Leser sieht es so aus, als stünde das Unternehmen dahinter. Die zweite betrifft Branchen wie Gesundheit, Finanzen und Recht. Dort kann eine Antwort, die vollständig wirkt, aber wichtige Punkte auslässt, Nutzer davon abhalten, sich beraten zu lassen. Eine scheinbar erledigte Frage ist dann kein Erfolg, sondern ein Risiko.
„Eine Zitierung beweist Sichtbarkeit, nicht Zustimmung. Wer GEO ernst nimmt, prüft nicht nur, ob die eigene Seite verlinkt ist, sondern was die KI ihr in den Mund legt.“
Dr. Michael Mohaupt, rethink.expert
Fünf Schritte für den Belegtest
20 geschäftskritische Fragen auswählen, bei denen die eigene Seite zitiert wird oder zitiert werden sollte, und die Antworten mehrerer KI-Systeme sichern.
In jeder Antwort die Aussagen markieren, die für eine Entscheidung zählen, und zu jedem Quellenlink die Stelle suchen, die sie belegt.
Jede Aussage einordnen: belegt, nur teilweise belegt, nicht belegt oder ohne Quelle. Besonders wichtig sind Aussagen, die der eigenen Seite zugeschrieben werden, aber dort nicht stehen.
Die fachliche Richtigkeit getrennt prüfen lassen, am besten durch Fachleute. Ein guter Beleg ersetzt diese Prüfung nicht.
Festhalten, ob die Antwort das Anliegen scheinbar abschließt oder sichtbar lässt, wo Beratung, Diagnose oder Prüfung nötig bleibt. Eine hohe Zitierquote ist kein Erfolg, wenn die Zitate die entscheidenden Aussagen nicht tragen.
Quellenangaben in KI-Antworten
Oft nicht. In einer Studie mit 3.611 Gesundheitsfragen waren rund 43 % der zitierten Aussagen durch die verlinkte Seite nicht gedeckt. Weitere 21 % aller Aussagen hatten gar keine Quelle.
Nicht automatisch. In derselben Studie waren gut belegte Antworten im Schnitt nicht richtiger als schlecht belegte. Antworten ohne Quellenangabe schnitten genauso ab wie solche mit Quellen.
Eine Zitierquote zeigt, ob die eigene Seite gesehen wird. Ob sie die Aussage trägt, neben der sie steht, und ob die Antwort stimmt, muss man getrennt prüfen, Aussage für Aussage.
Alle, in denen eine falsche oder unvollständige Antwort Schaden anrichten kann, etwa Gesundheit, Finanzen und Recht. Dort kann eine Antwort, die vollständig wirkt, Nutzer davon abhalten, Beratung zu suchen.
Im GEO-Webinar trennen wir Sichtbarkeit, Zitierung, Beleg, Zielerledigung und Geschäftswert. Die sichtbare Quelle ist der Beginn der Prüfung, nicht ihr Ergebnis.
Platz im GEO-Webinar sichern →