KI-Halluzinationen: 4 echte Beispiele und wie du sie erkennst

Eine KI-Halluzination ist eine Antwort, die selbstsicher klingt und falsch ist oder durch nichts gedeckt wird: ein Fall, der nie entschieden wurde, ein Zitat, das niemand gesagt hat, ein Datum, das zwei Jahre danebenliegt. Das Modell lügt nicht. Es sagt plausible Wörter voraus, und ein erfundenes Detail liest sich genauso wie ein echtes. Unten findest du vier dokumentierte Fälle, was sie gemeinsam haben, und einen kurzen Check, den du vor dem Abschicken auf jeden KI-Entwurf anwenden kannst.

Vier echte Beispiele für KI-Halluzinationen

1. Der Schriftsatz mit erfundenen Fällen (2023). Zwei New Yorker Anwälte reichten in der Sache Mata v. Avianca einen Schriftsatz ein, der Urteile zitierte, die ChatGPT sich ausgedacht hatte. Am 22. Juni 2023 verhängte Richter P. Kevin Castel gegen die Anwälte und ihre Kanzlei 5.000 Dollar Strafe und stellte böswilliges Handeln fest: Sie hätten Hinweise darauf, dass die Fälle gefälscht waren, bewusst übergangen und das Gericht in die Irre geführt. Der Richter merkte an, dass es grundsätzlich nichts Unzulässiges sei, ein zuverlässiges KI-Tool zur Hilfe zu nehmen. Der Fehler war, das Ergebnis nicht zu prüfen.

2. Der Chatbot, der eine Erstattungsregel erfand (2024). Ein Chatbot von Air Canada sagte einem Kunden, er könne den Trauerfall-Tarif nach der Reise beantragen. Auf der Website der Airline stand aber, dass es für bereits angetretene Reisen keine Erstattung gibt. Im Februar 2024 machte ein Gericht in British Columbia Air Canada für die Aussagen des Chatbots verantwortlich und wies die Idee zurück, der Bot sei eine eigenständige Einheit. Eine Halluzination in einem Tool für Kunden wird zu deiner eigenen Aussage.

3. Der Beratungsbericht mit falschen Quellen (2025). Deloitte Australia erstellte für das Department of Employment and Workplace Relations eine Untersuchung, die erfundene Quellen und ein ausgedachtes Gerichtszitat enthielt. Ein Wissenschaftler bemerkte, dass einige der zitierten Werke gar nicht existierten. Deloitte überarbeitete den Bericht, legte offen, dass ein generatives KI-Modell zum Einsatz kam, und erklärte sich bereit, die letzte Rate seines Vertrags über 440.000 australische Dollar zurückzuzahlen. Selbst professionelle Teams mit Prüfprozessen haben es übersehen.

4. Die Produktdemo mit dem falschen "Ersten" (2023). In Googles Werbevideo zum Start des Chatbots Bard sagte der Bot, das James-Webb-Weltraumteleskop habe das allererste Bild eines Planeten außerhalb unseres Sonnensystems gemacht. Astronomen wiesen darauf hin, dass das erste Exoplanetenbild 2004 von einem anderen Teleskop stammte, und die Aktie von Alphabet fiel an diesem Tag. Der Satz war glatt, konkret und leicht zu glauben, und genau das macht solche Fehler so schwer erkennbar.

Was diese Fälle gemeinsam haben

Jeder davon versteckte sich in ganz normal aussehendem Text. Vier Muster tauchen immer wieder auf:

• Konkrete Angaben mit Namen. Fallnamen, Berichtstitel, Autoren und Zitate. Eine Quellenangabe sieht richtig aus, egal ob es sie gibt oder nicht.
• Superlative und "Erste". "Der Erste", "der Einzige", "der Größte". Das klingt autoritativ und lässt sich leicht falsch behaupten.
• Regeln und Richtlinien. Erstattungsbedingungen, gesetzliche Grenzen, Fristen. Das Modell füllt eine Lücke mit dem, was eine solche Regel plausibel sagen würde.
• Niemand hat die Quelle geöffnet. In jedem Fall wäre die Aussage bei zwei Minuten Nachschlagen aufgeflogen.

Ein Fünf-Minuten-Check für deinen Entwurf

Dafür brauchst du kein Spezialtool. Der Check funktioniert bei jedem Entwurf mit KI-Hilfe, von der E-Mail bis zum Bericht.

1. Markiere jede prüfbare Aussage. Namen, Zahlen, Daten, Zitate, "erste/einzige/meiste"-Aussagen, Regeln, Preise und alles, wozu eine Quelle genannt wird.
2. Kennzeichne die, die bei einem Fehler wehtun würden. Eine Zahl für einen Kunden oder ein Rechtsverweis ist viel wichtiger als eine allgemeine Beobachtung.
3. Öffne zu jeder die Quelle. Such nach dem genauen Titel, Fallnamen oder Zitat. Hat das Modell einen Link geliefert, öffne ihn und lies die Stelle, die die Aussage stützen soll.
4. Behandle "nicht zu finden" als Ergebnis. Findest du keine Quelle, die dasselbe sagt, streiche die Aussage, formuliere sie als unbestätigt um oder ersetze sie durch eine, die du belegen kannst.
5. Lies den korrigierten Text noch mal. Korrekturen hinterlassen oft holprige Stellen, und ein korrekter Entwurf sollte trotzdem nach dir klingen.

Eine ausführlichere Version mit einem Prompt, in dem ein Modell seine eigenen Zweifel auflistet, findest du in unserer 6-Schritte-Checkliste zum Faktenprüfen von ChatGPT. Und wenn dich eher interessiert, wie ein Entwurf klingt, und nicht, ob er stimmt, deckt die 10-Punkte-Checkliste für KI-Gewohnheiten in deinem Text diese Seite ab.

So geht's in Unflag

Bei vielen Aussagen übernimmt die Faktenprüfung den ersten Durchgang für dich. Sie ist Teil von Unflag Plus, kostenlose Konten können sie also nicht nutzen.

1. Öffne die Faktenprüfung und melde dich an. Im Web braucht sie mindestens 50 Wörter, und Plus akzeptiert bis zu 10.000 Zeichen pro Eingabe.
2. Füge den KI-Entwurf ein und starte die Prüfung.
3. Unflag zieht die Aussagen aus deinem Text und durchsucht das Web nach jeder einzelnen. Du bekommst einen Gesamt-Vertrauenswert, eine Zusammenfassung, eine Analyse zu jeder Aussage und die Quellen.
4. Jede Aussage bekommt ein Urteil: Wahr, Falsch, Teilweise Wahr, Irreführend oder Nicht überprüfbar.
5. Öffne die Quellen hinter allem Wichtigen. "Nicht überprüfbar" heißt genau das und nicht "falsch", und ein Urteil ist ein Hinweis zum Gegenprüfen, kein Ersatz dafür, die Quelle zu lesen.
6. Korrigiere den Entwurf und nutze dann Umschreiben oder KI Humanisieren, damit er natürlich klingt. KI Humanisieren versucht, Zahlen wie Preise und Prozentwerte zu erhalten, prüfe deine Zahlen nach jedem Umschreiben aber noch einmal.

Stand Oktober 2026 kostet Unflag Plus im Web 8,99 $ im Monat oder 45,99 $ im Jahr. Die Apps werden wöchentlich oder jährlich über die Stores abgerechnet.

Halluzinieren neuere KI-Modelle noch?

Ja, wie oft, hängt aber vom Modell, vom Thema und davon ab, ob es suchen kann. Modelle, die im Web recherchieren oder Quellen lesen können, die du ihnen gibst, machen weniger unbelegte Aussagen als ein Modell, das aus dem Gedächtnis antwortet. Kein Anbieter behauptet, das Problem sei gelöst, also gilt die Gewohnheit weiter, Namen, Zahlen und Zitate zu prüfen. Sieh jede genannte Quote als Zahl des Anbieters oder der Forschenden für einen einzelnen Test, nicht als Versprechen für deinen Entwurf.

Wo sich Halluzinationen im Alltag verstecken

• Arbeitsmails und Berichte: Statistiken, Fakten über Mitbewerber und Behauptungen über den "Branchenstandard".
• Anschreiben und Bios: Daten, Jobtitel und Auszeichnungen, die das Modell ergänzt hat.
• Blogposts und Werbetexte: "Studien zeigen"-Sätze und erfundene Expertenzitate.
• Zusammenfassungen: ein Punkt, den die Quelle nie gemacht hat.
• Medizin, Recht und Geld: Nutze KI, um Fragen vorzubereiten, und für die Antwort eine qualifizierte Fachperson oder eine offizielle Quelle.

Was dieser Check nicht leisten kann

Kein Tool, auch Unflag nicht, kann versprechen, jeden Fehler zu finden. Ein webbasierter Faktenchecker ist durch das begrenzt, was er findet, und eine Aussage kann zugleich nicht überprüfbar und wahr sein. Wenn dein Kurs, dein Arbeitgeber oder dein Verlag Regeln zu KI hat, halte dich daran, auch an Vorgaben dazu, dass du KI-Hilfe angeben musst.

Wie dieser Beitrag entstanden ist

Wir haben die veröffentlichte Berichterstattung zu jedem Fall gelesen (Bloomberg Law, Daily Hive, TechRadar und Space.com, Stand Oktober 2026), die Schritte mit dem Faktenprüfungs-Ablauf von Unflag im Produkt und im Code abgeglichen und die Preise von Unflag mit Stand Oktober 2026 geprüft. Die Berichte weichen bei manchen Details ab, etwa bei den genauen Beträgen im Fall von Air Canada und Deloitte, deshalb nennen wir nur Zahlen, in denen die Quellen übereinstimmen. Die Checkliste wurde für diesen Beitrag geschrieben, und es hängt keine Tool-Ausgabe daran.

Kurz gesagt: Eine Halluzination liest sich wie jeder andere Satz. Prüf also Namen, Zahlen, Zitate und "Erste" selbst, und nimm die Faktenprüfung, wenn es zu viele sind, um sie von Hand abzuklappern.

Häufig gestellte Fragen

Was ist eine KI-Halluzination?

Eine KI-Halluzination ist eine Ausgabe, die selbstsicher klingt und falsch oder nicht belegt ist: ein erfundenes Zitat, ein falsches Datum, ein Satz, den nie jemand gesagt hat, oder eine Regel, die es gar nicht gibt. Das Modell sagt plausible Wörter voraus, deshalb kann sich ein erfundenes Detail genauso lesen wie ein wahres.

Was ist ein Beispiel für eine KI-Halluzination?

2023 reichten zwei New Yorker Anwälte einen Schriftsatz ein, der Gerichtsfälle zitierte, die ChatGPT erfunden hatte, und ein Bundesrichter verhängte 5.000 Dollar Strafe. 2025 erstattete eine Beratungsfirma einen Teil ihres Honorars zurück, nachdem ein Regierungsbericht erfundene Quellen und ein ausgedachtes Gerichtszitat enthielt.

Warum erfindet KI Dinge?

Ein Sprachmodell schreibt die wahrscheinlichsten nächsten Wörter, keine geprüften Fakten. Wenn es keine solide Antwort hat, liefert es trotzdem etwas Flüssiges. Am ehesten patzt es bei Quellenangaben, genauen Zahlen, Zitaten, aktuellen Ereignissen und Nischenthemen, zu denen es wenig Daten hat.

Woran erkenne ich, ob ChatGPT halluziniert?

Am Tonfall erkennst du es nicht, denn falsche Antworten klingen genauso sicher wie richtige. Achte auf Angaben, die sich prüfen lassen: Namen, Zahlen, Daten, Zitate und Quellen. Such jede einzelne außerhalb des Chats. Findest du keine Quelle, die dasselbe sagt, behandle die Aussage als unbestätigt.

Lässt sich eine KI-Halluzination beheben?

Nicht vollständig. Echte Quellen und eine Websuche verringern die Fehler, beseitigen sie aber nicht. Verlässlich hilft nur ein menschlicher Schritt: die wichtigen Aussagen heraussuchen, mit Primärquellen abgleichen und alles korrigieren oder streichen, was sich nicht bestätigen lässt.

Erkennt Unflag KI-Halluzinationen?

Die Faktenprüfung von Unflag, Teil von Unflag Plus, zieht die Aussagen aus einem Text heraus, durchsucht das Web nach jeder einzelnen und liefert ein Urteil, einen Vertrauenswert und Quellen. Sie kann etwas übersehen oder danebenliegen, also öffne bei wichtigen Aussagen die Quellen, bevor du dich darauf verlässt.