BroadRouter

Cadena de pensamiento (chain-of-thought, CoT)

Actualizado

La cadena de pensamiento (chain-of-thought, CoT) es una técnica de prompting en la que a un modelo de lenguaje se le muestra o se le pide que escriba pasos de razonamiento intermedios antes de su respuesta final. Mejora la precisión en problemas de varios pasos, como aritmética y lógica, y los modelos de razonamiento ya la generan automáticamente.

También llamado: cadena de pensamiento, cadena de razonamiento, razonamiento paso a paso, prompting paso a paso, CoT, chain-of-thought, chain-of-thought prompting, step-by-step prompting, CoT prompting

La cadena de pensamiento empezó como un truco de prompting y se convirtió en una función de los modelos.

Cómo funciona

Wei y sus colegas publicaron el método en 2022. En lugar de ejemplos few-shot que muestran solo la pregunta y la respuesta, escribieron ejemplos que muestran los pasos intermedios. Con ocho ejemplos de ese tipo, un modelo de 540 mil millones de parámetros alcanzó una precisión de estado del arte en GSM8K, un conjunto de problemas de matemáticas de nivel escolar, por delante de un GPT-3 ajustado con un verificador. Probaron razonamiento aritmético, de sentido común y simbólico.

Un ejemplo de cadena de pensamiento en un prompt:

Q: A shop has 23 apples. It uses 20 and buys 6 more. How many are left?
A: It starts with 23. After using 20 it has 3. After buying 6 it has 9. The answer is 9.

Escribir los pasos le da al modelo más tokens de cómputo antes de comprometerse con una respuesta, y cada paso condiciona el siguiente. Es una forma de few-shot prompting en la que los ejemplos enseñan un método, no solo un formato.

Cómo la internalizan los modelos de razonamiento

Los modelos de razonamiento se entrenan para producir ellos mismos este texto paso a paso. La guía de OpenAI dice que “use internal reasoning tokens before producing a response” (traducción: usan tokens de razonamiento internos antes de producir una respuesta), y que esos tokens no son visibles a través de su API, pero ocupan contexto y se facturan como salida. Algunos modelos abiertos devuelven el razonamiento en un campo aparte. Consulte tokens de razonamiento para ver cómo se cuentan.

Por qué importa

  • Precisión. Las tareas de varios pasos, como matemáticas, planificación y corrección de código, son las que más se benefician. Las consultas simples ganan poco.
  • Costo y latencia. Cada paso es un token de salida. Una cadena larga puede costar más que la respuesta.
  • No es una prueba. Los pasos escritos pueden parecer sólidos y aun así ser erróneos, así que no evitan la alucinación.

En BroadNet Inference

La documentación de BroadNet dice que DeepSeek V4.1 Flash, GLM 5.3 y Qwen3.8 27B razonan antes de responder, y que el razonamiento cuenta para max_tokens. Deje 1,000 tokens o más, o configure reasoning_effort en low; con un límite pequeño, la respuesta puede llegar vacía. Cuando se informa, usage.completion_tokens_details.reasoning_tokens muestra cuántos se usaron. La documentación no incluye BroadNet Gemma 4 VL 26B como modelo de razonamiento, así que el prompting clásico de cadena de pensamiento es la forma de pedirle pasos. La guía de respuestas vacías y el artículo sobre el costo de los tokens de razonamiento explican cómo presupuestarlos.

Preguntas frecuentes

¿La cadena de pensamiento es lo mismo que los tokens de razonamiento?

Están relacionados, pero no son lo mismo. La cadena de pensamiento es la técnica de escribir los pasos. Los tokens de razonamiento son lo que genera un modelo de razonamiento cuando lo hace internamente, y se facturan como salida.

¿Debo escribir «piensa paso a paso» a un modelo de razonamiento?

Normalmente no hace falta. Los modelos de razonamiento ya razonan antes de responder. La guía de OpenAI sugiere darles un objetivo claro y restricciones en lugar de prescribir cada paso.

¿La cadena de pensamiento cuesta más?

Sí. Los pasos son tokens de salida, que suelen ser los más caros, y añaden latencia.

Leer en MarkdownPreguntar a ChatGPTPreguntar a ClaudePreguntar a Perplexity