Warum KI halluziniert — und was dagegen hilft

Halluzination ist keine Fehlfunktion

Der Begriff "Halluzination" suggeriert einen Ausnahmezustand. Das Modell erzeugt jedoch immer eine statistisch passende Fortsetzung. Dass diese Fortsetzung plausibel und zugleich falsch sein kann, ist daher kein bloßer Ausnahmefehler.

In dieser Lektion schauen wir uns an, woher Halluzinationen technisch kommen, in welchen Situationen sie gehäuft auftreten und welche Methoden heute wirklich helfen, sie zu reduzieren.

Der technische Ursprung

Aus den vorherigen Lektionen wissen Sie: Ein LLM erzeugt in jedem Schritt ein Token anhand einer Wahrscheinlichkeitsverteilung. Plausibilität und Wahrheit sind nicht identisch.

Ein Beispiel: Sie fragen nach einer Kennzahl, die es so nicht gibt, aber plausibel klingt. Das Modell hat in seinem Training Tausende ähnliche Kennzahlen gesehen. Die statistisch wahrscheinlichste Antwort ist: eine Zahl, die aussieht wie die anderen. Ob sie stimmt, weiß das Modell nicht — es hat keinen Zugriff auf eine Wahrheitsprüfung.

Halluzinationen sind deshalb nicht zufällig. Sie treten besonders häufig in vier Situationen auf:

1. Wissenslücke im Training. Das Thema war in den Trainingsdaten unterrepräsentiert oder zu neu.
2. Spezifizität jenseits des Gelernten. Die Frage verlangt ein konkretes Detail (eine Zahl, ein Datum, eine Quelle), für das die statistischen Muster zu weit gestreut sind.
3. Widerspruch im Kontext. Im Prompt stehen widersprüchliche Informationen, und das Modell verbindet sie zu einer neuen, falschen Aussage.
4. Framing, das eine Antwort suggeriert. Wer "nenne mir drei Studien, die X belegen" fragt, bekommt drei Studien — auch dann, wenn es nur eine gibt. Das Modell neigt dazu, dem impliziten Auftrag zu folgen.

Was Halluzinationen nicht sind

Wichtig zur Abgrenzung:

• Keine Unschärfen im Ton. Wenn ein Modell eine Zusammenfassung anders formuliert als erwartet, ist das keine Halluzination.
• Keine abweichenden Meinungen. Wenn das Modell zu einer Einschätzung kommt, die Sie nicht teilen, muss das kein Fehler sein.
• Keine bewusste Lüge. LLMs haben keine Absicht. Sie verfolgen kein Ziel außer der nächsten Token-Vorhersage.

Halluzinationen sind konkrete, überprüfbare Aussagen, die faktisch falsch sind — meist Zahlen, Namen, Zitate, Quellen, Datumsangaben oder technische Details.

Fünf Gegenmaßnahmen, die im Alltag wirken

1. Kontext statt Training

Eine zentrale Maßnahme besteht darin, die benötigten Fakten direkt in den Kontext zu legen, statt sich auf im Training gelernte Muster zu verlassen. Bei wichtigen Aussagen bleibt zu prüfen, ob die Antwort die bereitgestellte Quelle korrekt wiedergibt.

Auf Unternehmensebene wird dieser Ansatz als Retrieval-Augmented Generation (RAG) systematisiert — dazu kommen wir in Lektion 6.

2. Unsicherheit explizit erlauben

Ein Zusatz im Prompt wie "Wenn die Quelle keine Antwort enthält, antworte 'unbekannt' oder frage nach" kann unbegründetes Raten vermeiden. Das ist eine Kontrolle, keine Garantie.

3. Quellen verlangen, dann prüfen

Wenn Sie nach Zahlen, Zitaten oder Studien fragen, verlangen Sie Quellen und prüfen Sie, ob diese existieren und die Aussage tatsächlich tragen. Eine Quellenangabe des Modells ist noch kein Nachweis. Wenn möglich, stellen Sie freigegebene Quellen von Anfang an bereit.

4. Temperature und Struktur

Wenn das Tool Sampling-Einstellungen anbietet, kann eine niedrigere Ausgabevielfalt die Wiederholbarkeit erhöhen. Strukturierte Ausgabeformate mit festen Feldern begrenzen den Spielraum zusätzlich. Beides ersetzt keine Quellenprüfung.

5. Kritische Aussagen verifizieren

Die letzte Kontrollstufe ist eine fachkundige Prüfung. Artikel 4 des EU AI Acts verpflichtet Anbieter und Betreiber von KI-Systemen, Maßnahmen für ein ausreichendes Maß an KI-Kompetenz ihrer Mitarbeitenden und weiterer mit Betrieb oder Nutzung befasster Personen zu ergreifen. Welche Maßnahmen ausreichen, hängt vom Kontext und Risiko ab. Kritische Ausgaben zu prüfen ist eine sinnvolle organisatorische Maßnahme, aber kein wörtlich vorgegebener Einzelpunkt des Artikels.

Wann sind Halluzinationen besonders kritisch?

Nicht jede Halluzination ist gleich folgenreich. Die folgende Einteilung ist ein Arbeitsmodell für die Priorisierung von Kontrollen, keine rechtliche Risikoklassifizierung:

• Hoch: Rechtsberatung, medizinische Auskünfte, Finanzentscheidungen, sicherheitsrelevante Daten.
• Mittel: Marketingtexte mit Zahlen, Pressemeldungen, Berichte für Stakeholder.
• Niedrig: Brainstorming, Entwurfstexte, die ohnehin überarbeitet werden, Übersetzungen bekannter Inhalte.

Die Grundregel: Je näher eine KI-Antwort einer Entscheidung oder einer öffentlichen Aussage ist, desto strenger muss die Prüfung sein.

Was Sie aus dieser Lektion mitnehmen

Halluzinationen sind die Kehrseite der Generalisierungsfähigkeit eines LLM. Sie lassen sich nicht vollständig abstellen, aber durch Prompt-Design, Retrieval und menschliche Prüfung weit zurückdrängen. Der wichtigste Wandel im Denken: Ein LLM "weiß" nichts — es rekonstruiert, und diese Rekonstruktion kann danebenliegen.

Im nächsten Kapitel geht es um eine andere Grenze, die im Alltag oft übersehen wird: das Context Window, der Arbeitsspeicher einer KI-Sitzung.