Halluzination

Halluzination

Ein KI-Sprachmodell "halluziniert", wenn es Inhalte generiert, die faktisch falsch, nicht belegbar oder schlicht erfunden sind – aber dennoch grammatikalisch korrekt und überzeugend klingen. Das Modell erfindet dabei keine Lügen im menschlichen Sinne, sondern folgt rein statistischen Mustern, ohne ein echtes Verständnis von Wahrheit zu haben.

Warum passiert das?

LLMs lernen, wahrscheinliche Wortfolgen vorherzusagen – nicht, ob eine Aussage wahr ist. Wenn das Modell keine passenden Trainingsdaten kennt, "interpoliert" es und produziert plausibel klingende, aber falsche Antworten.

Typische Beispiele:

• Erfundene Quellenangaben oder Paper-Zitate
• Falsche Datumsangaben oder Biographien
• Nicht existierende API-Methoden oder Libraries

Beispiel im Entwickleralltag

# Gefährliches Muster: KI-Output blind verwenden
response = openai.chat.completions.create(
    model="gpt-4o",
    messages=[{"role": "user", "content": "Welche Methode nutze ich in Pandas, um Duplikate zu entfernen?"}]
)
code = response.choices[0].message.content
exec(code)  # ⚠️ Niemals ohne Prüfung ausführen!

# Besser: Output validieren und testen
print(code)  # Erst lesen, dann testen

Gegenmaßnahmen für Entwickler

• Grounding / RAG: Modell mit verifizierten Dokumenten als Kontext versorgen, damit es auf echte Quellen zurückgreift
• Temperature senken: Niedrigere Werte (z. B. temperature=0) machen das Modell deterministischer und konservativer
• System-Prompt: Explizit anweisen, bei Unsicherheit "Ich weiß es nicht" zu sagen
• Guardrails: Nachgelagerte Validierung von Outputs implementieren
• Chain-of-Thought: Modell Schritt für Schritt denken lassen, reduziert Fehler

# System-Prompt gegen Halluzinationen
system = """
Antworte nur auf Basis der gegebenen Informationen.
Wenn du dir nicht sicher bist, antworte mit: 'Diese Information liegt mir nicht vor.'
Erfinde keine Fakten, Quellen oder Code-Methoden.
"""

Fazit

Halluzinationen sind kein Bug, der einfach gefixt wird – sie sind ein strukturelles Merkmal heutiger LLMs. Als Entwickler musst du aktiv Maßnahmen ergreifen, um kritische Outputs zu validieren, bevor sie produktiv eingesetzt werden.