Hallucination Mitigation

Hallucination Mitigation bezeichnet Methoden, die die Wahrscheinlichkeit oder Auswirkung faktisch falscher oder nicht belegter Antworten von Sprachmodellen (Large Language Models, LLMs) senken. Zum Standard-Repertoire gehören das Anreichern der Anfrage mit belegten Quellen (Retrieval-Augmented Generation) mit anschließender Deckungsprüfung, Zitat- und Faktenprüfung, mehrfaches Nachfragen und Abgleich der Antworten (Self-Consistency) sowie Einschränken des Antwortformats (Constrained Decoding).

Was ist Hallucination Mitigation?

Der Begriff hat sich ab 2023 rund um Sprachmodelle etabliert und beschreibt das Gegenstück zu einer [Hallucination](/insights/glossar/hallucination/), also einer sachlich falschen oder von der Quelle nicht gedeckten Modell-Antwort. Mitigation (also Minderung) setzt an drei Stellen an: vorbeugend an der Ursache (bevor der Text entsteht), prüfend am Ergebnis (nach der Antwort) oder im Ablauf (Antwort ablehnen oder von einem Menschen freigeben lassen, „Human-in-the-Loop"). Die Referenz-Übersicht liefert der [Survey von Tonmoy et al. 2024 (ArXiv 2401.01313)](https://arxiv.org/abs/2401.01313), der mehr als 32 Verfahren in eine gemeinsame Taxonomie einordnet. Für Systeme mit belegten Quellen (Retrieval-Augmented Generation) ergänzt der [Review von Zhang et al. 2025 (MDPI Mathematics 13/5/856)](https://www.mdpi.com/2227-7390/13/5/856) die Sicht auf einzelne Bausteine: Quellensuche, Anreicherung und Generierung können jeweils Halluzinations-Ursachen sein und brauchen unterschiedliche Gegenmaßnahmen.

Die häufigste Grounding-Methode ist Retrieval-Augmented Generation. Der Kontext wird zur Antwortzeit aus einer verlässlichen Quelle geholt und dem LLM als Grundlage übergeben; ein Groundedness-Check prüft im Nachgang, ob jede Aussage im Output durch die abgerufenen Passagen gestützt wird. Nicht gestützte Aussagen werden entfernt, umformuliert oder als „nicht belegt" markiert. Ergänzend zerlegen Attributions-Verfahren (etwa AIS von Rashkin et al. 2021, FActScore von Min et al. 2023) den Output in atomare Fakten und prüfen jeden Fakt einzeln gegen die Referenz.

Auf der Decoding-Seite operieren zwei Standard-Verfahren. Self-Consistency ([Wang et al. 2023, ArXiv 2203.11171](https://arxiv.org/abs/2203.11171)) sampelt das Modell mehrfach mit demselben Prompt, clustert die Antworten semantisch und wählt die mehrheitliche Ausgabe. Semantic Entropy ([Farquhar et al. 2024, Nature 630](https://www.nature.com/articles/s41586-024-07421-0)) misst die Streuung dieser Antworten als Unsicherheits-Signal und markiert Ausgaben mit hoher Streuung als Halluzinations-Kandidaten. Constrained Decoding schränkt den Ausgaberaum während der Generierung ein (Grammar-, Schema- oder Regex-Constraints) und schließt halluzinierte Feld-Namen, erfundene JSON-Keys oder unbekannte Enum-Werte bereits im Sampling-Schritt aus. Auf der Trainingsseite senken Fine-Tuning mit halluzinations-annotierten Beispielen, Direct Preference Optimization auf faithfulness-gelabelten Präferenzen und die explizite Belohnung von „ich weiß nicht"-Antworten die Halluzinationsrate strukturell. Die [OpenAI-Analyse 09/2025](https://openai.com/index/why-language-models-hallucinate/) argumentiert, dass Evaluations-Anreize systemisch nachgezogen werden müssen: Modelle wurden bislang dafür belohnt, immer eine Antwort zu liefern.

Regulatorisch werden Mitigations-Verfahren zum dokumentierten Bestandteil der Konformität. Der EU AI Act verlangt in Artikel 15 für Hochrisiko-KI dokumentierte Prüfungen zur Genauigkeit und Robustheit, in Artikel 55 für General-Purpose-AI-Modelle mit systemischem Risiko systemische Risiko-Bewertungen, unter die Halluzinations-Verhalten als Verlässlichkeits-Aspekt fällt. Metrik-Frameworks wie RAGAS oder TruLens operationalisieren die dazugehörigen Faithfulness- und Answer-Relevance-Messungen.

Abgrenzung zu Hallucination, Guardrails, Agent Evaluation und RAG

Vier Begriffe werden im Alltag mit Mitigation verwechselt, obwohl sie unterschiedliche Rollen im LLM-Stack haben.

Der Nachbar-Begriff Hallucination bezeichnet das Phänomen, Mitigation die Antwort darauf. Guardrails sind ein angrenzendes Konzept: Sie prüfen, ob eine Ausgabe erlaubt ist (PII-Leak, Toxicity, Jailbreak-Antwort), Mitigation prüft, ob eine Ausgabe stimmt. Beide Ebenen laufen im selben Stack, adressieren aber unterschiedliche Fehlerbilder und lassen sich nicht ineinander überführen. Agent Evaluation ist die Test-Disziplin, die den Effekt einer Mitigation misst; ohne Faithfulness- und Factuality-Metriken lässt sich der Nutzen eines Mitigations-Verfahrens weder belegen noch tunen. RAG ist eine konkrete Mitigations-Methode (Grounding via Retrieval), nicht das gesamte Feld: Nicht jede Mitigation nutzt RAG, und ein RAG-System ohne Groundedness-Check lässt extrinsische Halluzinationen durchrutschen. AI Red Teaming schließt den Kreis auf der Angriffsseite: adversariale Test-Prompts, unter denen die Mitigation versagt, machen Lücken sichtbar, ersetzen die Mitigation aber nicht.

Prompt Engineering ist häufig Bestandteil einer Mitigation (etwa Anweisungen zur ausschließlichen Nutzung des bereitgestellten Kontexts oder zur expliziten Ablehnung bei Unsicherheit), reicht allein aber nicht: Grounding und Verifikation liegen außerhalb reiner Prompt-Anpassungen.

Beispiel: Rechts-Assistent und RAG-Support-Agent

Ein LLM-basierter Rechts-Assistent ist bekannt anfällig für erfundene Aktenzeichen (extrinsische Halluzination). Eine Mitigation kombiniert drei Schichten. Erstens Retrieval-Augmented Generation auf einen strukturierten Urteils-Index (juris-Extrakt): Das Modell antwortet nur auf Basis der Retrieval-Passagen. Zweitens ein Groundedness-Check, der die Antwort in atomare Fakten (Aktenzeichen, Datum, Kernaussage) zerlegt und jeden Fakt gegen die Retrieval-Passagen prüft; nicht gestützte Fakten werden entfernt und durch „nicht belegt" ersetzt. Drittens LLM-as-a-Judge, das die Ausgabe gegen die Retrieval-Passagen vergleicht und Faithfulness-Verstöße für die Human-Review-Queue markiert. Der Stack senkt die Halluzinationsrate und macht Restfehler sichtbar, statt sie zu verstecken.

Ein RAG-basierter Support-Agent zieht Produktdokumentation und beantwortet Versions-Fragen. Ohne Mitigation halluziniert der Agent gelegentlich Versionsnummern, die die Quelle nicht deckt (intrinsische Halluzination: Widerspruch zur Retrieval-Grundlage). Die Mitigation setzt an zwei Punkten an: Constrained Decoding erzwingt das Version-Feld als Schema-Constraint aus einer bekannten Version-Liste, so dass erfundene Versionsnummern im Sampling-Schritt ausgeschlossen sind. Ein Faithfulness-Score (RAGAS) prüft parallel, ob die Antwort durch die abgerufenen Passagen gedeckt ist. Antworten unter Schwellwert werden nicht ausgeliefert, sondern automatisch an einen menschlichen Agenten weitergeleitet. Die kombinierte Wirkung: Der Agent liefert weniger, aber verlässliche Antworten.