Generative künstliche Intelligenz kann innerhalb weniger Sekunden eine Forschungszusammenfassung erstellen; eine flüssige Darstellung ist jedoch keine Garantie für Richtigkeit. Das Modell kann einen echten Bericht falsch interpretieren, eine nicht vorhandene Quelle als authentisch ausgeben oder veraltete Informationen mit den heutigen Gegebenheiten vermischen. Ein guter Verifizierungsprozess besteht deshalb nicht nur darin, die Links in der Antwort anzuklicken. Die Beziehung zwischen jeder wichtigen Behauptung und dem Beleg, der sie angeblich stützt, muss einzeln geprüft werden.
NIST behandelt falsche oder fehlerhafte Inhalte, die generative KI mit großer Sicherheit präsentiert, unter dem Begriff „Confabulation“. Das Risikoprofil der Institution weist darauf hin, dass dieses Problem aus der probabilistischen Funktionsweise der Modelle entstehen kann und besonders bei offenen, langen Antworten sowie in Bereichen mit hohen Genauigkeitsanforderungen relevant ist. Auch der AI Index Report 2026 von Stanford HAI zeigt, dass wachsende Fähigkeiten das Zuverlässigkeitsproblem nicht beseitigen: Dem Bericht zufolge bestehen bei einigen untersuchten anspruchsvollen Genauigkeitstests große Fehlerunterschiede zwischen den Modellen. Die Schlussfolgerung ist einfach: Ein neueres oder besser bewertetes Modell ist nicht automatisch bei jeder Frage zuverlässig.
1. Zerlegen Sie die Antwort zunächst in einzelne Behauptungen
Versuchen Sie nicht, einen langen Text als Ganzes zu verifizieren. Erfassen Sie Zahlen, Daten, Namen von Personen und Institutionen, Produkteigenschaften, Forschungsergebnisse, rechtliche Bestimmungen und Ursache-Wirkungs-Aussagen als einzelne Punkte. „Das neue System ist sicherer“ ist keine einzelne Behauptung; zusätzlich muss geklärt werden, mit welcher Version es verglichen wurde, nach welchem Maßstab die Sicherheit bewertet wurde und zu welchem Zeitpunkt das Ergebnis galt.
Sie können die Behauptungen in drei Risikostufen einteilen:
- Geringes Risiko: Allgemeine Informationen, deren Fehlerhaftigkeit nur geringfügige Unannehmlichkeiten verursachen würde.
- Mittleres Risiko: Informationen, die etwa bei einem Kauf, einer Reise oder einer Geschäftsplanung zum Verlust von Zeit und Geld führen könnten.
- Hohes Risiko: Entscheidungen in den Bereichen Gesundheit, Recht, Finanzen und Sicherheit oder Entscheidungen, die andere Menschen betreffen.
Je höher das Risiko, desto belastbarer sollten die verlangten Belege sein. Bei einem Thema mit hohem Risiko sollte die KI-Antwort nicht die Entscheidung selbst darstellen, sondern einen Entwurf der zu untersuchenden Fragen. Wenden Sie sich bei Bedarf an eine entsprechend qualifizierte Fachperson.
2. Prüfen Sie, ob die Quelle tatsächlich existiert
Dass der Titel eines Artikels wissenschaftlich klingt, bedeutet nicht, dass der Artikel veröffentlicht wurde. Öffnen Sie den Link direkt und prüfen Sie, ob Autor, Herausgeber, Datum und Dokumenttitel mit den Angaben in der Antwort übereinstimmen. Wenn eine DOI angegeben ist, suchen Sie danach auf der Website des Verlags oder bei einem Registrierungsdienst wie Crossref. Versuchen Sie bei der Behauptung über eine amtliche Regelung, den tatsächlichen Wortlaut der Vorschrift zu finden, bei einer Produkteigenschaft das aktuelle Supportdokument des Herstellers und bei einer Statistik die Tabelle der Institution, die die Daten erhoben hat.
Wenn sich der Link nicht öffnen lässt, verlassen Sie sich nicht allein auf das Format der URL. Suchen Sie den Titel in Anführungszeichen, prüfen Sie das institutionelle Profil des Autors und stellen Sie fest, ob das Dokument im Publikationsarchiv vorhanden ist. Wenn sich keinerlei Spur findet, betrachten Sie die Quelle als nicht verifiziert. Nur einen anderen Link vom Modell anzufordern, reicht nicht aus, da auch der zweite Link erfunden sein kann.
3. Stützt die Quelle die Behauptung wirklich?
Die Angabe einer echten Quelle bedeutet noch nicht, dass die Behauptung verifiziert ist. Öffnen Sie das Dokument und suchen Sie auf der Seite nach der betreffenden Zahl oder Formulierung. Vergleichen Sie die Schlussfolgerung der KI mit der tatsächlichen Aussage der Quelle. Untersucht eine Studie beispielsweise nur eine kleine Gruppe von Teilnehmenden in einem bestimmten Land, darf ihr Ergebnis nicht so dargestellt werden, als gelte es für alle Nutzer. Auch eine Studie, die eine Korrelation feststellt, belegt für sich allein keine Kausalität.
Achten Sie besonders auf folgende Fehler:
- Verwechslung von Prozent und Prozentpunkten.
- Verschweigen der Stichprobengröße oder des Datums einer Studie.
- Darstellung eines Preprints als begutachteter Fachartikel.
- Wertung einer Behauptung aus einer Pressemitteilung als unabhängiges Forschungsergebnis.
- Darstellung einer Quelle als Beleg für ein bestimmtes Ergebnis, obwohl sie das Thema lediglich erwähnt.
- Annahme, ein alter Preis, ein früherer Rechtsstand oder eine ehemalige Produkteigenschaft sei weiterhin gültig.
4. Nutzen Sie Primärquellen und unabhängige Quellen gemeinsam
Eine Primärquelle ist der Beleg, der dem ursprünglichen Dokument einer Behauptung am nächsten kommt, beispielsweise eine Forschungsarbeit, ein technischer Standard, eine Gerichtsentscheidung, eine amtliche Datenbank oder die Supportseite eines Herstellers. Institutionen können ihre eigenen Produkte oder Ergebnisse jedoch positiv darstellen. Gleichen Sie wichtige Behauptungen deshalb mit einer zweiten, vertrauenswürdigen und unabhängigen Quelle ab.
Wenn zwei Nachrichtenseiten dieselbe Pressemitteilung umformulieren, sind das keine zwei unabhängigen Bestätigungen. Ermitteln Sie die ursprüngliche Quelle der Berichte und prüfen Sie, ob die Veröffentlichungen auf denselben Daten beruhen. Eine echte Gegenprüfung sollte möglichst zwischen Quellen mit unterschiedlichen Methoden der Datenerhebung oder unterschiedlichen institutionellen Interessen erfolgen.
5. Prüfen Sie Datum und Version
KI-Werkzeuge, Preise, Funktionen und Regeln ändern sich schnell. Ergänzen Sie jede Verifizierungsnotiz um die Frage: „Mit Stand von welchem Datum?“ Halten Sie bei einer Softwareempfehlung die Produktversion, bei einem Rechtstext das Datum des Inkrafttretens und bei einer Wissenschaftsmeldung das Veröffentlichungs- oder Aktualisierungsdatum der Studie fest. Das Datum im Suchergebnis kann sich vom letzten Aktualisierungsdatum auf der Seite unterscheiden.
Die Bitte an ein Modell, die „aktuellsten Informationen“ zu liefern, beweist nicht, dass es Zugriff auf Live-Daten hat. Wenn die Antwort kein eindeutiges Datum, keinen direkten Link und kein verifizierbares Dokument enthält, sollten Sie die Informationen nicht als aktuell ansehen. Öffnen Sie die aktuelle Seite der Quelle statt zwischengespeicherter Zusammenfassungen.
6. Prüfen Sie die Antwort anhand von Belegen, nicht durch wiederholtes Nachfragen
Dieselbe Frage mit anderen Worten an das Modell zu richten, kann Widersprüche sichtbar machen, bestimmt aber nicht, was wahr ist. Ein Modell kann denselben Fehler zweimal wiederholen; auch zwei unterschiedliche Modelle können von demselben fehlerhaften Internettext beeinflusst worden sein. „Ein anderes Modell hat dasselbe gesagt“ ist daher kein unabhängiger Beleg.
Eine hilfreichere Aufforderung könnte lauten: „Gliedere die verifizierbaren Behauptungen dieser Antwort in einer Tabelle. Gib für jede Behauptung eine direkte Quelle, das Veröffentlichungsdatum, den relevanten Abschnitt und den Grad der Unsicherheit an. Kennzeichne deutlich alle Punkte, für die du keine Quelle finden kannst.“ Prüfen Sie die Tabelle anschließend selbst. Dass ein Modell seine Unsicherheit zum Ausdruck bringt, ist ein positives Zeichen, ersetzt aber keine Verifizierung.
7. Erstellen Sie eine einfache Belegtabelle
Für wichtige Recherchen genügen vier Spalten: Behauptung, direkte Quelle, in der Quelle gefundener Beleg und Entscheidung. Verwenden Sie im Entscheidungsfeld Angaben wie „verifiziert“, „teilweise verifiziert“, „widersprüchlich“ oder „kein Beleg gefunden“. So erhalten eindrucksvolle, aber unbelegte Sätze nicht dasselbe Gewicht wie solide Belege.
Wenn eine Behauptung nur auf einer Zusammenfassungsseite erscheint, prüfen Sie das vollständige Dokument. Können Sie die Tabelle oder die Methodik in einer PDF-Datei nicht lesen, halten Sie dies als Einschränkung fest. Bestätigen Sie eine nicht zugängliche Quelle nicht so, als hätten Sie sie geprüft. Lesen Sie außerdem die Datenrichtlinie und die Vorschriften Ihrer Organisation, bevor Sie persönliche, vertrauliche oder institutionelle Dokumente zur Verifizierung in öffentlich zugängliche KI-Dienste hochladen.
Abschließende Prüfung vor der Veröffentlichung
Für jede Zahl und jedes direkte Zitat im Text sollte eine Quelle vorliegen; Titel, Datum und URL müssen durch Öffnen der Quelle geprüft werden. Primärdokumente sollten nach Möglichkeit Vorrang vor Kommentaren haben, und wichtige Ergebnisse sollten mit unabhängigen Belegen abgeglichen werden. Aussagen, deren Aktualität sich ändern kann, sollten einen zeitlichen Bezug erhalten. Nicht verifizierbare Punkte müssen entfernt oder eindeutig als unsicher gekennzeichnet werden.
Künstliche Intelligenz kann Recherchen beschleunigen, Verbindungen zwischen Quellen herstellen und Checklisten erstellen. Die Verantwortung dafür, die Qualität und Aktualität der Belege zu beurteilen und festzustellen, ob sie für eine Entscheidung ausreichen, verbleibt jedoch beim Nutzer. Am sichersten ist es, das Modell nicht als endgültige Autorität zu betrachten, sondern als Recherchehilfe, die Behauptungen identifiziert, deren wichtige Ergebnisse jedoch jeweils geprüft werden müssen.