So prüfst du KI-Antworten auf Fakten

KI-Chat-Antworten klingen flüssig, sind gut strukturiert und oft richtig. Genau das macht falsche Antworten so tückisch: Eine frei erfundene Statistik wirkt genauso überzeugend wie eine echte. Du musst nicht alles überprüfen, aber du brauchst eine schnelle, verlässliche Routine für Dinge, auf die es ankommt. Dieser Guide zeigt dir, wie es geht.

Warum KI-Antworten falsch sein können

• Sie sagt plausiblen Text voraus. Ein Sprachmodell generiert Wörter, die gut passen. Es schlägt keine Fakten nach, es sei denn, ein Such-Tool ist angebunden. Unser Guide dazu, wie KI-Chatbots funktionieren, erklärt die Hintergründe.
• Das Wissen hat ein Stichtagsdatum. Preise, Gesetze, Personen im Amt, Softwareversionen und Fahrpläne ändern sich, nachdem die Trainingsdaten erfasst wurden.
• Sie kann Quellen erfinden. Titel, Autoren, Seitenzahlen, Links und Gerichtsurteile können in einem absolut realistischen Format frei erfunden werden.
• Sie neigt dazu, dir zuzustimmen. Eine Suggestivfrage wie „Stimmt es nicht, dass …?“ kann die KI dazu bringen, deine vorgefasste Meinung einfach zu bestätigen.
• Sie bringt Dinge durcheinander. Zwei Personen mit ähnlichen Namen, zwei ähnliche Gesetze oder zwei Versionen derselben Software.

Entscheide, was du prüfen musst

Passe den Aufwand dem Risiko an. Zur groben Orientierung:

Konkrete Angaben erfordern die meiste Aufmerksamkeit: Zahlen, Daten, Namen, Zitate, Gesetze, Dosierungen, Preise, technische Daten und Quellenangaben.

Fakten-Check in fünf Schritten

1. Die Antwort in Einzelaussagen zerlegen

Lass die KI den ersten Schritt für dich machen:

Liste jede Tatsachenbehauptung aus deiner vorherigen Antwort als nummerierte Liste auf.
Gib für jede an, wie sicher du dir bist (hoch, mittel oder niedrig) und welche Art von Quelle sie bestätigen würde.

Die Angaben zur Treffsicherheit sind für sich allein nicht verlässlich, da Modelle auch bei Fehlern sehr selbstsicher klingen können. Die Liste zeigt dir aber genau, was du prüfen musst.

2. Nach der Originalquelle suchen

Finde für jede wichtige Aussage heraus, woher sie stammt. Setze am besten auf Primärquellen: das Statistische Bundesamt für Zahlen, das offizielle Gesetzblatt für Rechtstexte, die Originalstudie im Fachjournal, die Herstelleranleitung oder die Website der Organisation. Ein Zeitungsartikel oder Blog, der eine Zahl zitiert, ist schon ein Schritt weiter weg.

3. Querlesen (Lateral Reading)

Profis beim Faktenprüfen beurteilen eine Quelle nicht danach, wie seriös sie aussieht. Sie öffnen neue Tabs und prüfen, was andere verlässliche Quellen über die Aussage und über die Quelle selbst sagen. Wenn mehrere unabhängige, seriöse Quellen übereinstimmen, bist du auf der sicheren Seite.

4. Quellenangaben prüfen und abgleichen

Gibt dir die KI eine Quelle an, suche nach dem genauen Titel in einer Suchmaschine, einem Bibliothekskatalog oder einer wissenschaftlichen Datenbank. Öffne das Dokument und prüfe, ob es die Behauptung wirklich stützt. KIs zitieren manchmal echte Studien für Aussagen, die gar nicht darin stehen.

5. Das Datum prüfen

Ist die Information noch aktuell? Schau nach, wann die Quelle veröffentlicht oder zuletzt aktualisiert wurde und ob sich seitdem etwas geändert hat: neue Vorschriften, neuere Versionen oder geänderte Preise.

Prompts für leichter überprüfbare Antworten

Wie du fragst, kann Fehler schon im Vorfeld reduzieren:

Schwach:
Welche Nebenwirkungen hat [Medikament]?

Besser:
Welche Nebenwirkungen werden für [Medikament] typischerweise aufgeführt?
Trenne gesicherte Fakten von Dingen, bei denen du dir weniger sicher bist,
und sag klar, wenn du etwas nicht weißt. Nenne mir das offizielle Dokument,
etwa die Packungsbeilage, das ich zur Überprüfung heranziehen sollte.

Weitere nützliche Zusätze:

• „Wenn du dir nicht sicher bist, sag es offen, anstatt zu raten.“
• „Antworte ausschließlich auf Basis des unten eingefügten Textes. Wenn der Text keine Antwort enthält, sag es mir.“
• „Was würde jemand entgegnen, der dieser Antwort widerspricht?“
• „Welche Teile dieser Antwort könnten veraltet sein?“

Besonders verlässlich sind Antworten, die auf deinem eigenen Text basieren. Füge das Dokument ein und stelle Fragen dazu, oder nutze den Summarizer, und gleiche das Ergebnis stichprobenartig mit dem Original ab. Du kannst auch einen Prompt zum Fakten-Check im Chat öffnen, um deine Überprüfung zu planen.

Warnsignale in einer KI-Antwort

• Sehr präzise Zahlen ohne Quelle, wie etwa Prozentangaben mit Nachkommastelle.
• Zitate berühmter Persönlichkeiten, die sich sonst nirgendwo finden lassen.
• Quellenangaben mit seltsamen Details: Ein Journal, das gar nicht zum Thema passt, Autoren, die nicht in dem Feld forschen, oder Links, die ins Leere führen.
• Eine Antwort, die sich komplett ändert, wenn du sie neu generierst oder nachhakst: „Bist du sicher?“
• Rechtliche oder medizinische Aussagen ohne Angabe von Land, Dosierung oder Kontext.
• Angaben zu aktuellen Ereignissen ohne Datumsbezug.

Nachzufragen „Bist du sicher?“ kann aufschlussreich sein, aber nimm eine geänderte Antwort nicht automatisch als richtig hin. Modelle rudern unter Druck manchmal auch bei korrekten Fakten zurück. Prüfe immer außerhalb des Chats nach.

Hilft es, eine andere KI zu fragen?

Vergleichst du Antworten verschiedener Modellstile im Chat-Menü oder eines anderen KI-Dienstes, fallen dir Widersprüche auf, die einen genaueren Blick wert sind. Aber KI-Systeme basieren oft auf ähnlichen Trainingsdaten und machen dieselben Fehler – eine Übereinstimmung zweier KIs ist also kein Beweis. Nutze sie, um herauszufinden, was du prüfen solltest, nicht als eigentlichen Check.

Schüler, Studierende und Forschende finden weitere Tipps unter KI für Studierende, ChatG für Forschende und in den Lern-Prompts.

Wo du verschiedene Arten von Angaben prüfst

FAQ

Wie oft liegt KI falsch?

Das hängt stark vom Modell, dem Thema und der Art der Frage ab; eine pauschale, verlässliche Zahl gibt es nicht. Bekannte Themen werden generell besser bewältigt als Nischenthemen, aktuelle Ereignisse, exakte Zahlen und Zitate.

Ist es sicher, KI für medizinische oder rechtliche Fragen zu nutzen?

Nutze sie, um Fachbegriffe zu verstehen, Fragen vorzubereiten und dir einen Überblick zu verschaffen. Triff keine Entscheidungen zu Behandlungen, Medikamenten, Rechtsstreitigkeiten oder Geldanlagen ohne qualifizierte Fachleute. Wende dich im Notfall an den Notruf.

Sollte ich die KI nach Quellen fragen?

Ja, weil es dir Anhaltspunkte gibt, wonach du suchen kannst. Öffne aber jede Quelle selbst, da KIs auch Quellen erfinden können oder Dinge behaupten, die gar nicht im Text stehen.

Warum funktionieren Links in KI-Antworten manchmal nicht?

Sofern die KI die Seite nicht aktiv im Web nachgeschlagen hat, ist ein Link generierter Text wie alles andere auch. Er führt möglicherweise zu einer verschobenen Seite oder zu einer URL, die nie existiert hat, aber plausibel aussieht. Suche lieber nach dem Titel oder der Organisation statt nach der Webadresse.

Was ist der schnellste Weg, einen einzelnen Fakt zu prüfen?

Suche nach der konkreten Aussage und halte in den Top-Ergebnissen nach einer Primärquelle oder einer renommierten Seite Ausschau. Findest du innerhalb weniger Minuten nichts Verlässliches, baue nicht auf diese Behauptung.