Eine Halluzination liest sich genau wie eine richtige Antwort. Genau das macht sie so teuer.
So funktioniert es
Ein Sprachmodell schreibt die plausibelsten nächsten Tokens, ausgehend von seinem Training und dem Prompt. Nichts in dieser Schleife gleicht eine Tatsache mit der Welt ab. Kennt das Modell die Antwort nicht, steht trotzdem eine plausibel aussehende zur Verfügung.
Kalai und Kollegen argumentieren in einem Paper von 2025, dass Halluzinationen bestehen bleiben, weil „training and evaluation procedures reward guessing over acknowledging uncertainty“ (Übersetzung: „Trainings- und Evaluierungsverfahren Raten höher belohnen als das Eingeständnis von Unsicherheit“). Die meisten Benchmarks geben für einen richtigen Rateversuch Punkte und für Enthaltung nichts, also werden Modelle zu guten Prüflingen getrimmt. Die Autoren führen die Fehler zudem auf eine statistische Ursache zurück: Kann ein Modell wahre und falsche Aussagen nicht zuverlässig unterscheiden, erzeugt das Pretraining falsche.
Häufige Formen in der API-Arbeit:
- erfundene Quellenangaben, URLs oder Zitate
- falsche Zahlen in der Zusammenfassung eines korrekten Dokuments
- API-Methoden oder Parameter, die es nicht gibt
- Antworten auf Fragen, die der bereitgestellte Kontext nicht abdeckt
Warum es wichtig ist
Die Kosten entstehen später: ein Support-Bot, der eine Erstattungsrichtlinie erfindet, ein Bericht mit falscher Summe, Code, der eine fehlende Funktion aufruft. Im Vergleich dazu sind die Gegenmittel günstig:
- Die Antwort verankern. Setzen Sie den Quelltext in den Prompt oder rufen Sie ihn per RAG ab. Lewis und Kollegen fanden Retrieval-Augmented Generation „factual“ (Übersetzung: „faktentreuer“) als eine Basis, die nur auf Parametern beruht. Siehe Grounding.
- „Weiß ich nicht“ erlauben. Anthropic nennt die ausdrückliche Erlaubnis, Unsicherheit zuzugeben, als grundlegenden Schritt.
- Zitate verlangen, dann prüfen. Lassen Sie das Modell für jede Behauptung ein stützendes Zitat angeben und streichen Sie Behauptungen ohne Zitat.
- Messen. Bauen Sie ein Eval mit Fragen, deren Antwort nicht im Kontext steht, und verfolgen Sie, wie oft das Modell trotzdem eine erfindet. Logprobs können Antworten mit geringer Konfidenz markieren, wo die API sie zurückgibt.
- Im Code prüfen. Summen, Datumsangaben und IDs lassen sich ohne Modell verifizieren.
Eine niedrigere Temperatur hilft gegen Abdriften in langen Texten, nicht gegen selbstsichere Fehler.
Bei BroadNet Inference
Die BroadNet-Dokumentation veröffentlicht keine Halluzinationsraten für die Modelle und nennt keine Guardrails oder Funktionen zur Faktenprüfung; diese Kontrollen liegen also in Ihrer Anwendung. Ein großer Kontext hilft beim Grounding: DeepSeek V4.1 Flash und GLM 5.3 nehmen 1.048.576 Tokens pro Anfrage an, genug für vollständige Quelldokumente. Für arabische Retrieval-Pipelines siehe arabisches RAG; wie Sie extrahierte Felder mit dem Bild abgleichen, zeigt die Anleitung zu Rechnungen.