Eine Antwort, die vollständig aussieht, muss es nicht sein. finish_reason ist das eine Feld, das Ihnen sagt, ob das Modell von sich aus aufgehört hat.
So funktioniert es
Jedes Element in choices trägt einen finish_reason. Die Referenz von OpenAI nennt diese Werte:
| Wert | Bedeutung (OpenAI) |
|---|---|
stop |
Natürlicher Endpunkt, oder eine übergebene Stop Sequence wurde erreicht |
length |
„The maximum number of tokens specified in the request was reached“ (Übersetzung: „Die in der Anfrage angegebene Höchstzahl an Tokens wurde erreicht“) |
tool_calls |
Das Modell hat ein Tool aufgerufen |
content_filter |
„Content was omitted due to a flag from our content filters“ (Übersetzung: „Inhalte wurden wegen einer Markierung durch unsere Content-Filter ausgelassen“) |
function_call |
Ältere, veraltete Form eines Funktionsaufrufs |
Die Messages API von Anthropic verwendet stop_reason mit eigenen Werten, darunter end_turn, max_tokens, stop_sequence, tool_use, pause_turn, refusal und model_context_window_exceeded. Greift eine Stop Sequence, meldet Anthropic zusätzlich in stop_sequence, welche es war.
choice = r.choices[0]
if choice.finish_reason == "length":
raise RuntimeError("cut off: raise max_tokens and resend")
if choice.finish_reason == "tool_calls":
run_tools(choice.message.tool_calls)
Warum es wichtig ist
- Abgeschnittenes JSON. Eine Antwort mit
lengthist unvollständig. Wer die Klammern schließt, bringt sie zum Parsen, verliert aber Daten. Der Beitrag zu ungültigem JSON behandelt das. - Agenten-Schleifen.
tool_callsheißt „führe die Tools aus und ruf mich erneut auf“, nicht „fertig“. - Caching. Cachen Sie nur Antworten, die mit
stopgeendet haben. Eine abgeschnittene Antwort, die eine Woche im Cache liegt, sieht aus wie ein Fehler des Modells.
Bei BroadNet Inference
Die API-Referenz von BroadNet dokumentiert die Werte von finish_reason nicht. Loggen Sie also, was Sie erhalten, bevor Sie sich darauf verlassen. Dokumentiert ist dagegen die Hauptursache für Überraschungen mit length: DeepSeek V4.1 Flash, GLM 5.3 und Qwen3.8 27B denken nach, bevor sie antworten, und die Reasoning-Tokens zählen zu max_tokens. BroadNet schreibt, dass bei einem kleinen Limit „the reasoning can use the whole budget and the answer comes back empty“ (Übersetzung: „das Reasoning das ganze Budget verbrauchen kann und die Antwort leer zurückkommt“). Lassen Sie 1.000 Tokens oder mehr Spielraum, oder setzen Sie reasoning_effort auf low. Die Anleitung zu leeren Antworten zeigt die Lösung Schritt für Schritt.
Häufige Fehler
message.contentlesen, ohne vorher finish_reason zu prüfen.- Eine leere Antwort für einen Fehler des Modells halten, obwohl das Reasoning das ganze Budget verbraucht hat.