BroadRouter

finish_reason

Aktualisiert

finish_reason ist ein Feld an jeder Choice einer Chat-Completion-Antwort, das angibt, warum das Modell die Generierung beendet hat. Im OpenAI-Format lauten die Werte stop, length, tool_calls, content_filter und das veraltete function_call. Die Messages API von Anthropic meldet dasselbe als stop_reason.

Auch genannt: Finish Reason, Abbruchgrund, Stoppgrund, Stop Reason, finish reason, stop reason, stop_reason

Eine Antwort, die vollständig aussieht, muss es nicht sein. finish_reason ist das eine Feld, das Ihnen sagt, ob das Modell von sich aus aufgehört hat.

So funktioniert es

Jedes Element in choices trägt einen finish_reason. Die Referenz von OpenAI nennt diese Werte:

Wert Bedeutung (OpenAI)
stop Natürlicher Endpunkt, oder eine übergebene Stop Sequence wurde erreicht
length „The maximum number of tokens specified in the request was reached“ (Übersetzung: „Die in der Anfrage angegebene Höchstzahl an Tokens wurde erreicht“)
tool_calls Das Modell hat ein Tool aufgerufen
content_filter „Content was omitted due to a flag from our content filters“ (Übersetzung: „Inhalte wurden wegen einer Markierung durch unsere Content-Filter ausgelassen“)
function_call Ältere, veraltete Form eines Funktionsaufrufs

Die Messages API von Anthropic verwendet stop_reason mit eigenen Werten, darunter end_turn, max_tokens, stop_sequence, tool_use, pause_turn, refusal und model_context_window_exceeded. Greift eine Stop Sequence, meldet Anthropic zusätzlich in stop_sequence, welche es war.

choice = r.choices[0]
if choice.finish_reason == "length":
    raise RuntimeError("cut off: raise max_tokens and resend")
if choice.finish_reason == "tool_calls":
    run_tools(choice.message.tool_calls)

Warum es wichtig ist

  • Abgeschnittenes JSON. Eine Antwort mit length ist unvollständig. Wer die Klammern schließt, bringt sie zum Parsen, verliert aber Daten. Der Beitrag zu ungültigem JSON behandelt das.
  • Agenten-Schleifen. tool_calls heißt „führe die Tools aus und ruf mich erneut auf“, nicht „fertig“.
  • Caching. Cachen Sie nur Antworten, die mit stop geendet haben. Eine abgeschnittene Antwort, die eine Woche im Cache liegt, sieht aus wie ein Fehler des Modells.

Bei BroadNet Inference

Die API-Referenz von BroadNet dokumentiert die Werte von finish_reason nicht. Loggen Sie also, was Sie erhalten, bevor Sie sich darauf verlassen. Dokumentiert ist dagegen die Hauptursache für Überraschungen mit length: DeepSeek V4.1 Flash, GLM 5.3 und Qwen3.8 27B denken nach, bevor sie antworten, und die Reasoning-Tokens zählen zu max_tokens. BroadNet schreibt, dass bei einem kleinen Limit „the reasoning can use the whole budget and the answer comes back empty“ (Übersetzung: „das Reasoning das ganze Budget verbrauchen kann und die Antwort leer zurückkommt“). Lassen Sie 1.000 Tokens oder mehr Spielraum, oder setzen Sie reasoning_effort auf low. Die Anleitung zu leeren Antworten zeigt die Lösung Schritt für Schritt.

Häufige Fehler

  • message.content lesen, ohne vorher finish_reason zu prüfen.
  • Eine leere Antwort für einen Fehler des Modells halten, obwohl das Reasoning das ganze Budget verbraucht hat.

Häufige Fragen

Was bedeutet finish_reason „length“?

Die Antwort hat das von Ihnen gesetzte Token-Limit erreicht und wurde abgeschnitten. OpenAI beschreibt das als „the maximum number of tokens specified in the request was reached“ (Übersetzung: „die in der Anfrage angegebene Höchstzahl an Tokens wurde erreicht“). Erhöhen Sie max_tokens oder fordern Sie weniger an; reparieren Sie den abgeschnittenen Text nicht.

Warum ist finish_reason „stop“, wenn ich eine Stop Sequence gesetzt habe?

Im OpenAI-Format deckt stop sowohl ein natürliches Ende als auch eine gefundene Stop Sequence ab. Anthropic trennt beides in end_turn und stop_sequence.

Dokumentiert BroadNet die Werte von finish_reason?

Nein. Die API-Referenz von BroadNet listet keine Werte für finish_reason auf. Loggen Sie das Feld bei Ihren eigenen Anfragen und testen Sie, bevor Sie Ihren Code danach verzweigen.

Als Markdown lesenChatGPT fragenClaude fragenPerplexity fragen