BroadRouter
Comenzar

tool_choice (elección de herramienta)

Actualizado

tool_choice es un parámetro de la solicitud que controla el uso de herramientas. En Chat Completions de OpenAI puede ser auto (el modelo decide), required (debe llamar a una o más herramientas), none (sin herramientas) o una función con nombre para forzarla. Las opciones equivalentes de Anthropic son auto, any, tool y none.

También llamado: tool choice, elección de herramienta, forzar llamada a herramienta, forzar llamada a función, forced tool call, forced function call

Las llamadas a herramientas permiten que un modelo le pida a su código que ejecute una función. tool_choice decide si eso es opcional, obligatorio o está desactivado.

Cómo funciona

Usted envía tools (nombres de funciones, descripciones y parámetros en JSON Schema) y, opcionalmente, tool_choice.

Valor en OpenAI Significado Equivalente en Anthropic
"auto" El modelo elige entre un mensaje o una o más llamadas; predeterminado cuando se envían herramientas {"type": "auto"}
"required" “The model must call one or more tools” (traducción: el modelo debe llamar a una o más herramientas) {"type": "any"}
{"type": "function", "function": {"name": "get_weather"}} Fuerza esa herramienta concreta {"type": "tool", "name": "get_weather"}
"none" Sin llamadas a herramientas; predeterminado sin herramientas {"type": "none"}

La guía de function calling de OpenAI también describe una opción de herramientas permitidas (allowed tools) que restringe las llamadas a un subconjunto sin cambiar la lista completa de herramientas, y la sugiere para el caché de prompts.

{"model": "broadnet/glm-5.3",
 "messages": [{"role": "user", "content": "Weather in Riyadh?"}],
 "tools": [{"type": "function", "function": {"name": "get_weather",
   "parameters": {"type": "object", "properties": {"city": {"type": "string"}},
                  "required": ["city"]}}}],
 "tool_choice": {"type": "function", "function": {"name": "get_weather"}}}

La documentación de Anthropic señala que, con any o tool, la API rellena de antemano la respuesta, así que el modelo no escribe texto antes de la llamada, y que algunos modelos de Claude rechazan el uso forzado de herramientas y devuelven un error 400.

Por qué importa

  • Pipelines fiables. Un paso de extracción que debe terminar en una llamada no debería recibir una respuesta de texto conversacional. Forzar la llamada elimina esa rama.
  • Turnos seguros. Fijar none en un turno final de resumen impide que el modelo inicie otra ronda de herramientas, manteniendo la misma lista de herramientas.
  • Caché. Anthropic dice que cambiar tool_choice invalida los bloques de mensajes en caché, así que manténgalo estable entre turnos cuando pueda.

En BroadNet Inference

La referencia de la API de BroadNet documenta las llamadas a herramientas solo para GLM 5.3 y Qwen3.8 27B, y no documenta tool_choice. Pruebe cada valor que piense usar: envíe required o una función con nombre y confirme que la respuesta contiene tool_calls. Si forzar no funciona como espera, use auto con una instrucción clara y valide el resultado, o use salida estructurada en los mismos modelos. El artículo sobre llamadas a herramientas en modelos abiertos incluye un bucle de validación y reintento.

Errores comunes

  • Forzar una herramienta en cada turno de un bucle de agente, de modo que nunca pueda dar una respuesta final.
  • Suponer que required significa una herramienta concreta. Significa cualquier herramienta.

Preguntas frecuentes

¿Cuál es el valor predeterminado de tool_choice?

En la API de OpenAI, none cuando no se envían herramientas y auto cuando hay herramientas. Anthropic usa los mismos valores predeterminados.

¿Cuándo debo forzar una llamada a una herramienta?

Cuando la única respuesta aceptable es una llamada, como un clasificador que debe llamar a submit_label. Para una respuesta JSON fija, la salida estructurada suele ser más sencilla.

¿BroadNet Inference admite tool_choice?

BroadNet documenta las llamadas a herramientas para GLM 5.3 y Qwen3.8 27B, pero su referencia de la API no documenta tool_choice. Pruebe cada valor antes de depender de él.

Leer en MarkdownPreguntar a ChatGPTPreguntar a ClaudePreguntar a Perplexity