Was ist eine Halluzination?
Hinter der Halluzination steht eine Frage, die du dir bei jeder KI-Antwort stellen solltest: Stimmt das überhaupt?
OpenAI, der Anbieter von ChatGPT, beschreibt Halluzinationen als plausible, aber falsche Aussagen eines Sprachmodells. Das Tückische daran: Die falsche Antwort klingt genauso sicher wie die richtige.
Typisch sind:
- Erfundene Quellen: Studien, Urteile oder Links, die es nicht gibt.
- Falsche Zahlen und Daten: Marktanteile, Jahreszahlen, Preise.
- Erfundene Zitate: Sätze, die eine Person nie gesagt hat.
- Angaben zu Personen und Firmen: vor allem, wenn der Name bekannt klingt.
Warum halluziniert eine KI?
Ein Sprachmodell schlägt nichts nach. Es sagt Wort für Wort vorher, was wahrscheinlich als Nächstes kommt. IBM bringt es auf den Punkt: Das Modell weiß nicht, was wahr ist — nur, was ins Muster passt. Für die NIST sind Halluzinationen deshalb eine natürliche Folge der Bauweise.
Dazu kommt ein falscher Anreiz. OpenAI-Forscher zeigten 2025: Training und Tests belohnen Raten. Wer beim Geburtstag einer Person rät, hat eine Chance von 1 zu 365. Wer „weiß ich nicht“ sagt, bekommt sicher null Punkte. Also rät das Modell.
Anthropic fand bei seinem Modell Claude noch etwas: Der Normalfall ist dort, nicht zu antworten. Wirkt ein Name aber bekannt, löst sich diese Bremse — auch wenn das Wissen dazu fehlt.
Und schließlich endet das Wissen eines Modells mit seinem Training. Ohne Websuche kennt es nichts, was danach passiert ist.
Wie oft passiert das?
Eine einzige Quote gibt es nicht. Es hängt davon ab, was du die KI tun lässt:
Aufgabe
Fehlerquote
Text zusammenfassen
1,8–24 %
Fragen zu Nachrichten
45 %
Fragen zu US-Urteilen
58–88 %
Die Zahlen stammen aus drei Studien und messen Verschiedenes. Der Anbieter Vectara zählt, wie oft ein Modell beim Zusammenfassen etwas hinzudichtet (Stand 2026). Die Rundfunkunion EBU zählte 2025 Antworten mit mindestens einem erheblichen Problem. Stanford-Forscher prüften 2024 allgemeine Chatbots. Vergleichen lässt sich das nicht — die Richtung ist trotzdem klar: Je spezieller die Frage, desto häufiger der Fehler.
Werden neue Modelle besser? Teilweise. OpenAI meldete für GPT-5 im Denkmodus 4,8 % Antworten mit schwerem Faktenfehler, beim Vorgänger o3 waren es 22,0 %. Einen geraden Trend gibt es aber nicht: o3 selbst hatte bei Fragen zu Personen doppelt so oft halluziniert wie sein Vorgänger.
Beispiele aus der Praxis
Zwei Fälle, die vor Gericht endeten.
Case A · New York 2023
Anwälte recherchieren mit ChatGPT
6
erfundene Urteile
5.000 $
Strafe
Mata v. Avianca: Sanktion gegen die Anwälte
Die Urteile klangen echt, samt Namen der Parteien. Nachgeschlagen hatte sie niemand.
Case B · Kanada 2024
Chatbot von Air Canada erfindet eine Tarifregel
650,88
CAD Schadenersatz
812,02
CAD insgesamt
Die Airline haftet — nicht der Chatbot
Das Argument, der Chatbot sei selbst verantwortlich, nannte das Gericht „bemerkenswert“.
Häufige Fehler
Fehler 1 · Dem sicheren Ton trauen
Eine Halluzination klingt nicht unsicher. Am Ton erkennst du sie nicht. Misstrauisch solltest du bei allem werden, was sehr konkret ist: Zahlen, Zitate, Quellen, Namen, Daten.
Fehler 2 · Zahlen ungeprüft veröffentlichen
2025 lieferte die Beratung Deloitte der australischen Regierung einen Bericht für 440.000 australische Dollar — mit erfundenen Quellen. Einen Teil des Honorars musste sie zurückzahlen. Für deinen Blog gilt dasselbe im Kleinen: Jede Statistik braucht eine Quelle, die du selbst geöffnet hast.
Fehler 3 · Sich auf die Websuche verlassen
Eine KI mit Zugriff auf Quellen irrt seltener, aber nicht nie. Stanford-Forscher prüften juristische Recherche-Werkzeuge, die mit echten Dokumenten arbeiten. Sie halluzinierten trotzdem in 17 bis 33 % der Fälle.
Fehler 4 · Die Verantwortung bei der KI suchen
Für das, was auf deiner Website steht, stehst du ein — egal, wer es geschrieben hat. Unwahre Angaben in der Werbung gelten nach dem Gesetz gegen den unlauteren Wettbewerb als irreführend. „Das war die KI“ ist keine Entschuldigung.
Was hilft gegen Halluzinationen?
- Material mitgeben: Lade Dokumente oder eigene Daten hoch und sag der KI, sie soll nur daraus antworten.
- „Weiß ich nicht“ erlauben: Schreib es ausdrücklich in den Prompt. Laut Anthropic senkt das falsche Angaben deutlich.
- Belege verlangen: Lass dir zu jeder Aussage die Fundstelle nennen und Unbelegtes streichen.
- Websuche einschalten: Und dann die Links auch öffnen.
- Gegenprüfen: Alles, was rausgeht, an der Originalquelle nachschlagen.
Auch die Anbieter sagen offen: Diese Mittel verringern Halluzinationen, beseitigen sie aber nicht.
Häufige Fragen
Kann man Halluzinationen ganz abstellen?
Nein. Anthropic schreibt, die bekannten Gegenmittel beseitigten Halluzinationen nicht vollständig. OpenAI sagt, die Genauigkeit erreiche nie 100 %. Modelle können aber lernen, sich zu enthalten, statt zu raten. Für dich heißt das: Das Risiko sinkt, die Prüfung bleibt.
Halluzinieren neuere Modelle weniger?
Oft, aber nicht immer. OpenAI nennt für GPT-5 im Denkmodus 4,8 % Antworten mit schwerem Faktenfehler, für das ältere o3 waren es 22,0 %. Beim Zusammenfassen schneiden große Spitzenmodelle im Vectara-Test dagegen teils schlechter ab als kleine. Ein neues Modell ist kein Grund, nicht mehr zu prüfen.
Woran erkenne ich eine Halluzination?
Am Ton nicht — falsche Antworten klingen genauso sicher wie richtige. Verdächtig sind sehr konkrete Angaben: Zahlen, Zitate, Quellen, Namen. Öffne die genannte Quelle. Hilfreich ist auch, dieselbe Frage noch einmal zu stellen und die Antworten zu vergleichen.
Wer haftet, wenn eine KI auf meiner Website etwas Falsches behauptet?
In der Regel du als Betreiber. Im Fall Air Canada musste die Airline für die falsche Auskunft ihres Chatbots zahlen. In Deutschland verurteilte das Landgericht Hamburg 2025 den Anbieter des Chatbots Grok wegen einer falschen Aussage. Das ist keine Rechtsberatung — im Zweifel frag eine Anwältin.
