BroadRouter

Tokens de razonamiento (reasoning tokens)

Actualizado

Los tokens de razonamiento son tokens que un modelo de razonamiento genera para resolver un problema antes de escribir su respuesta visible. Normalmente se facturan como tokens de salida, cuentan para el límite de salida y la ventana de contexto, y la API puede ocultarlos o resumirlos.

También llamado: tokens de razonamiento, tokens de pensamiento, esfuerzo de razonamiento, cadena de pensamiento, reasoning tokens, thinking tokens, chain-of-thought tokens, reasoning effort, extended thinking

Los modelos de razonamiento piensan antes de responder. Ese pensamiento también es texto, así que cuesta tokens, tiempo y espacio en la ventana de contexto.

Cómo funciona

Un modelo de razonamiento genera una cadena de pensamiento interna y luego la respuesta visible. Ambas salen del mismo presupuesto de salida. La guía de OpenAI dice que los tokens de razonamiento “are billed as output tokens” (traducción: se facturan como tokens de salida) y ocupan espacio en la ventana de contexto; Anthropic dice lo mismo de los tokens de thinking y los llama “a subset of your max_tokens” (traducción: una parte de su max_tokens).

En el formato de Chat Completions, el conteo aparece en usage:

"usage": {
  "completion_tokens": 1186,
  "completion_tokens_details": { "reasoning_tokens": 1024 }
}

Aquí, 1,024 de 1,186 tokens de salida se fueron en pensar, y solo 162 en la respuesta. OpenAI advierte que una respuesta puede llegar al límite “before any visible output tokens are produced” (traducción: antes de que se produzca ningún token de salida visible), así que usted paga la entrada y el razonamiento y no recibe respuesta. Sugiere reservar al menos 25,000 tokens para el razonamiento y la salida cuando empiece a experimentar con sus modelos.

Muchas APIs ofrecen un control como reasoning_effort (low, medium, high) para cambiar calidad por menos tokens de pensamiento.

Por qué importa

  • Costo. En una clave por token, el razonamiento se cobra al precio de salida, normalmente la tarifa más alta. Consulte tokens de entrada y de salida.
  • Latencia. Pensar toma tiempo antes del primer token visible. A una velocidad fija de tokens por segundo, 2,000 tokens de razonamiento suman el tiempo de 2,000 tokens de salida.
  • Fiabilidad. Un max_tokens bajo que funcionaba en un modelo sin razonamiento puede devolver respuestas vacías en uno con razonamiento.

En BroadNet Inference

DeepSeek V4.1 Flash, GLM 5.3 y Qwen3.8 27B razonan antes de responder. La documentación de BroadNet indica que el razonamiento cuenta para max_tokens. La documentación de BroadNet no incluye razonamiento para BroadNet Gemma 4 VL 26B.

Cuando el modelo lo informa, usage.completion_tokens_details.reasoning_tokens muestra la parte dedicada a pensar. Configure max_tokens en 1,000 o más, o déjelo sin definir, y use reasoning_effort="low" para pasos simples:

client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    reasoning_effort="low",
    max_tokens=1000,
    messages=[{"role": "user", "content": "Classify: 'refund my order'"}],
)

En el pago por uso, el razonamiento se cobra al precio de salida, por ejemplo $0.52 por millón de tokens en DeepSeek V4.1 Flash. En un plan ilimitado de ese modelo no hay medidor de tokens, así que el razonamiento no cuesta nada extra; solo toma tiempo. La lista completa de soluciones está en por qué un modelo de razonamiento devuelve una respuesta vacía.

Preguntas frecuentes

¿Puedo ver los tokens de razonamiento?

Depende de la API. OpenAI dice que los tokens de razonamiento no son visibles a través de su API, pero pueden resumirse. Otros proveedores devuelven parte o todo el razonamiento en un campo separado. En cualquier caso, se le cobran.

¿Cómo reduzco los tokens de razonamiento?

Use un nivel de esfuerzo de razonamiento más bajo para tareas simples, como reasoning_effort en low, cuando el modelo lo admita. Los prompts claros y específicos también ayudan.

¿Por qué recibí una respuesta vacía de un modelo de razonamiento?

Probablemente el modelo gastó todo el presupuesto de salida en razonar. En ese caso finish_reason es length. Suba max_tokens o baje el esfuerzo de razonamiento.

Leer en MarkdownPreguntar a ChatGPTPreguntar a ClaudePreguntar a Perplexity