Eine KI-Antwort prüfen, bevor Sie ihr vertrauen

Eine KI-Antwort kann klar, ausführlich und vollkommen falsch sein. Das System erfindet vielleicht ein Zitat, verbindet zwei echte Ereignisse, verwechselt ein Datum oder nennt eine Quelle, die existiert, aber die Aussage nicht belegt. Der Schreibstil warnt kaum davor.

Das bedeutet nicht, dass das System täuschen will. Ein generatives Modell erzeugt wahrscheinliche Wortfolgen aus Mustern in Daten und dem gegebenen Kontext. Manche Werkzeuge können im Internet suchen oder Dokumente zitieren. Das kann Antworten besser belegen. Ein Link neben einem Satz beweist aber noch nicht, dass die Quelle dasselbe sagt.

Die sinnvolle Reaktion ist, den Prüfbedarf zu bestimmen und ein wiederholbares Verfahren zu nutzen. Bei einer Idee fürs Abendessen kann ein kleiner Fehler harmlos sein. Bei Geld, Gesundheit, Recht, Sicherheit, beruflichen Entscheidungen oder öffentlichen Behauptungen muss die Kontrolle deutlich gründlicher sein.

Zuerst den nötigen Prüfaufwand bestimmen

Überprüfung ist keine Alles-oder-nichts-Frage. Bei unverbindlichen Ideen reicht manchmal eine kurze Plausibilitätskontrolle. Eine sachliche Erklärung für eine Schulaufgabe braucht echte Quellen. Ratschläge zu Medikamenten, gesetzlichen Fristen, Verträgen, Überweisungen oder Entscheidungen am Arbeitsplatz sollten niemals allein auf einer KI-Antwort beruhen.

Eine hilfreiche Frage lautet: Was passiert, wenn das falsch ist? Ist die Antwort „Das Essen schmeckt etwas enttäuschend“, bleibt das Risiko gering. Lautet sie „Ich verliere Geld, verpasse eine Frist oder schade jemandem“, halten Sie an und nutzen Sie zuständige Institutionen oder qualifizierte Fachleute.

Eine Prüfschleife für fünf Minuten

1. Die Antwort in prüfbare Aussagen zerlegen.
   Prüfen Sie nicht einen ganzen flüssig geschriebenen Absatz auf einmal. Suchen Sie Daten, Zahlen, Zitate, Regeln, Ursachen und genannte Studien heraus. Meinungen und Vorhersagen gehören gesondert markiert.
2. Nach der Herkunft wichtiger Aussagen fragen.
   Eine Quellenliste der KI ist eine Sammlung von Hinweisen, noch kein Beleg. Suchen Sie Titel oder Schlüsselbegriffe selbst. Bei Vorschriften sind zuständige Behörden und Aufsichtsstellen wichtig, bei Wissenschaft die Originalarbeit und eine seriöse Erklärung.
3. Die Quelle öffnen und die passende Stelle finden.
   Verlassen Sie sich nicht auf den Suchausschnitt. Existiert die Seite? Ist die verantwortliche Person oder Organisation glaubwürdig? Steht dort tatsächlich, was die KI behauptet? Auch eine echte Studie kann für einen Schluss zitiert werden, den sie nie gezogen hat.
4. Datum, Ort und Reichweite prüfen.
   Eine US-Regel gilt nicht automatisch in Großbritannien. Eine Zahl von 2019 kann veraltet sein. Eine Untersuchung mit 40 Freiwilligen beschreibt nicht alle Menschen. Achten Sie auf untersuchte Gruppe, Bedingungen und Grenzen.
5. Den entscheidenden Punkt unabhängig bestätigen.
   Suchen Sie eine zweite zuverlässige Quelle, die nicht einfach die erste kopiert. Zwei Zeitungsartikel mit derselben Pressemitteilung wiegen weniger als ein Originalbericht und eine unabhängige Fachinstitution.

Ein Beispiel: die erfundene Statistik

Angenommen, ein Assistent schreibt: „Eine britische Studie von 2026 zeigt, dass 72 Prozent der Erwachsenen wöchentlich KI nutzen.“ Der Satz klingt plausibel. Land, Jahr und genaue Zahl lassen ihn recherchiert erscheinen.

Suchen Sie zuerst nach der genauen Statistik in Anführungszeichen. Gibt es keinen Treffer, verwenden Sie allgemeinere Begriffe und fragen nach Studientitel, Herausgeber und Stichprobe. Besuchen Sie dann die Website der Organisation. Vielleicht ging es um Menschen, die von generativer KI gehört hatten, nur um Erwerbstätige oder um monatliche statt wöchentlicher Nutzung.

Die richtige Bewertung ist nicht immer schlicht „falsch“. Möglicherweise hat die KI mehrere unterschiedliche Ergebnisse in einen unbelegten Satz gepresst. Das ist ein häufiger, leicht zu übersehender Fehler.

Eine Quelle schnell einschätzen

Eine professionell gestaltete Website ist nicht automatisch zuverlässig. Prüfen Sie, wer verantwortlich ist, woher das Wissen stammt und ob sich die Belege ansehen lassen.

• Primärquellen sind etwa Gesetze, amtliche Statistiken, Originalstudien, technische Normen, Gerichtsurteile und die Produktdokumentation des Herstellers.
• Gute Sekundärquellen erklären oder prüfen Originalbelege und nennen sie deutlich. Dazu gehören etablierte Redaktionen, wissenschaftliche Übersichtsarbeiten und Fachinstitutionen.
• Schwache Hinweise sind anonyme Texte, fehlende Daten, sich im Kreis zitierende Seiten, dramatische Gewissheit und Inhalte, die hauptsächlich ein passendes Produkt verkaufen sollen.

„Primär“ bedeutet nicht „unparteiisch“. Ein Unternehmen ist die Originalquelle für seine Ankündigung, aber nicht unbedingt der beste Richter über die Überlegenheit seines Produkts. Eine Studie dokumentiert ihr Experiment, das dennoch Grenzen haben kann.

Zitate, Links und Rechnungen einzeln prüfen

KI-Werkzeuge können Worte in Anführungszeichen setzen, die niemand gesagt hat. Suchen Sie eine auffällige Formulierung und finden Sie das Transkript, Dokument oder die Aufnahme. Ohne auffindbares Original sollten Sie das Zitat nicht als echt veröffentlichen.

Öffnen Sie wichtige Verweise. Prüfen Sie Titel, Autor und Erscheinungsdatum, und suchen Sie dann auf der Seite nach dem entscheidenden Begriff. Ein defekter Link kann eine harmlose Adressänderung sein. Ein erfundener Zeitschriftentitel oder ein unpassender Autor ist ein deutliches Warnzeichen.

Rechnen Sie Zahlen selbst nach. Was ist die Bezugsgröße? Geht es um absolute oder relative Prozentänderungen? Stimmen die Einheiten? Bei Währungen und Preisen gehören Kurs und Datum zur Prüfung. Bei einer beschriebenen Grafik sehen Sie sich die Achsen an.

Prompts, die die Kontrolle erleichtern

Ein besserer Prompt garantiert keine Wahrheit. Er kann die Antwort aber leichter überprüfbar machen. Zum Beispiel:

Trenne gesicherte Fakten, nachvollziehbare Schlussfolgerungen und Unsicherheiten. Nenne für jede wichtige Tatsachenbehauptung die Originalquelle, das Veröffentlichungsdatum und die genaue belegende Stelle. Sage deutlich, wenn du etwas nicht überprüfen kannst.

Sie können auch selbst Dokumente bereitstellen und Antworten ausschließlich daraus verlangen, mit Seiten- oder Absatzangaben. Prüfen Sie anschließend einige Verweise stichprobenartig. Das begrenzt freies Erfinden, ersetzt aber keine Kontrolle: Das Modell kann den gelieferten Text weiterhin missverstehen.

Häufige Fallen

„Drei Quellen müssen doch reichen“

Alle Verweise können auf dieselbe Behauptung zurückgehen oder die konkrete Formulierung gar nicht stützen. Zählen Sie Belege, nicht Links.

„Die zweite KI stimmt der ersten zu“

Zwei Modelle können aus demselben Material gelernt haben oder denselben verbreiteten Fehler wiederholen. Ein zweites Antwortsystem ist keine unabhängige Quelle.

„So genaue Details kann man nicht erfinden“

Namen, Seitenzahlen und Statistiken lassen sich ebenfalls erfinden. Genauigkeit im Detail ist ein Anlass zum Prüfen, kein Vertrauensbeweis.

„Ich habe um Genauigkeit gebeten“

Anweisungen können die Sorgfalt verbessern. Sie geben dem Modell aber weder fehlende Fakten noch die Garantie, eigene Unsicherheit zu erkennen.

Wann Überprüfen nicht genügt

Manche Entscheidungen brauchen eine fachkundige Person, die Verantwortung übernimmt. Bei medizinischen Fragen helfen Arzt oder Apotheker, bei Rechtsberatung zugelassene Rechtskundige und bei Geldfragen offizielle Finanz- und Aufsichtsquellen. Widerspricht eine KI dem Fachmenschen oder Originaldokument, bilden Sie keinen Mittelwert daraus.

Beachten Sie am Arbeitsplatz die Regeln für vertrauliche Informationen. Eine spätere Prüfung macht einen Datenschutzverstoß nicht rückgängig. Geben Sie keine persönlichen, geschäftlichen oder geschützten Daten in ein öffentliches KI-Werkzeug ein, wenn interne Regeln und Nutzungsbedingungen das nicht erlauben.

Prüfen als Gewohnheit

KI hilft beim Formulieren von Fragen, Ordnen von Notizen, Erklären schwieriger Sprache und Finden von Recherchewegen. Riskant wird es, wenn flüssige Formulierungen für Beweise gehalten werden.

Die einfachste Gewohnheit ist eine Pause vor dem Handeln oder Teilen. Lösen Sie die wichtigste Aussage heraus. Öffnen Sie die Originalquelle. Sagt sie dasselbe, im gleichen Zusammenhang und zum passenden Zeitpunkt? Bei ernsten Folgen prüfen Sie weiter.

Sie müssen nicht allem misstrauen. Sie müssen wissen, was als Beleg gelten würde.