Una respuesta que parece completa puede no serlo. finish_reason es el único campo que le dice si el modelo terminó por decisión propia.
Cómo funciona
Cada elemento de choices lleva un finish_reason. La referencia de OpenAI enumera estos valores:
| Valor | Significado (OpenAI) |
|---|---|
stop |
Punto de parada natural, o se alcanzó una secuencia de parada proporcionada |
length |
“The maximum number of tokens specified in the request was reached” (traducción: se alcanzó el número máximo de tokens indicado en la solicitud) |
tool_calls |
El modelo llamó a una herramienta |
content_filter |
“Content was omitted due to a flag from our content filters” (traducción: se omitió contenido por una alerta de nuestros filtros de contenido) |
function_call |
Forma anterior y obsoleta de una llamada a función |
La API Messages de Anthropic usa stop_reason con sus propios valores, entre ellos end_turn, max_tokens, stop_sequence, tool_use, pause_turn, refusal y model_context_window_exceeded. Cuando se activa una secuencia de parada, Anthropic también devuelve cuál fue en stop_sequence.
choice = r.choices[0]
if choice.finish_reason == "length":
raise RuntimeError("cut off: raise max_tokens and resend")
if choice.finish_reason == "tool_calls":
run_tools(choice.message.tool_calls)
Por qué importa
- JSON truncado. Una respuesta con
lengthestá incompleta. Cerrar las llaves hace que se pueda procesar, pero pierde datos. El artículo sobre JSON inválido trata este caso. - Bucles de agentes.
tool_callssignifica “ejecuta las herramientas y vuelve a llamarme”, no “terminé”. - Caché. Guarde en caché solo las respuestas que terminaron con
stop. Una respuesta cortada guardada en caché durante una semana parece un error del modelo.
En BroadNet Inference
La referencia de la API de BroadNet no documenta los valores de finish_reason, así que registre lo que reciba antes de depender de ellos. Sí documenta la causa principal de las sorpresas con length: DeepSeek V4.1 Flash, GLM 5.3 y Qwen3.8 27B razonan antes de responder, y los tokens de razonamiento cuentan para max_tokens. BroadNet indica que, con un límite pequeño, “the reasoning can use the whole budget and the answer comes back empty.” (traducción: el razonamiento puede consumir todo el presupuesto y la respuesta vuelve vacía.) Deje 1,000 tokens o más, o configure reasoning_effort en low. La guía de respuesta vacía explica la solución paso a paso.
Errores comunes
- Leer
message.contentsin revisar antes finish_reason. - Tratar una respuesta vacía como un fallo del modelo cuando el razonamiento consumió todo el presupuesto.