La cadena de pensamiento empezó como un truco de prompting y se convirtió en una función de los modelos.
Cómo funciona
Wei y sus colegas publicaron el método en 2022. En lugar de ejemplos few-shot que muestran solo la pregunta y la respuesta, escribieron ejemplos que muestran los pasos intermedios. Con ocho ejemplos de ese tipo, un modelo de 540 mil millones de parámetros alcanzó una precisión de estado del arte en GSM8K, un conjunto de problemas de matemáticas de nivel escolar, por delante de un GPT-3 ajustado con un verificador. Probaron razonamiento aritmético, de sentido común y simbólico.
Un ejemplo de cadena de pensamiento en un prompt:
Q: A shop has 23 apples. It uses 20 and buys 6 more. How many are left?
A: It starts with 23. After using 20 it has 3. After buying 6 it has 9. The answer is 9.
Escribir los pasos le da al modelo más tokens de cómputo antes de comprometerse con una respuesta, y cada paso condiciona el siguiente. Es una forma de few-shot prompting en la que los ejemplos enseñan un método, no solo un formato.
Cómo la internalizan los modelos de razonamiento
Los modelos de razonamiento se entrenan para producir ellos mismos este texto paso a paso. La guía de OpenAI dice que “use internal reasoning tokens before producing a response” (traducción: usan tokens de razonamiento internos antes de producir una respuesta), y que esos tokens no son visibles a través de su API, pero ocupan contexto y se facturan como salida. Algunos modelos abiertos devuelven el razonamiento en un campo aparte. Consulte tokens de razonamiento para ver cómo se cuentan.
Por qué importa
- Precisión. Las tareas de varios pasos, como matemáticas, planificación y corrección de código, son las que más se benefician. Las consultas simples ganan poco.
- Costo y latencia. Cada paso es un token de salida. Una cadena larga puede costar más que la respuesta.
- No es una prueba. Los pasos escritos pueden parecer sólidos y aun así ser erróneos, así que no evitan la alucinación.
En BroadNet Inference
La documentación de BroadNet dice que DeepSeek V4.1 Flash, GLM 5.3 y Qwen3.8 27B razonan antes de responder, y que el razonamiento cuenta para max_tokens. Deje 1,000 tokens o más, o configure reasoning_effort en low; con un límite pequeño, la respuesta puede llegar vacía. Cuando se informa, usage.completion_tokens_details.reasoning_tokens muestra cuántos se usaron. La documentación no incluye BroadNet Gemma 4 VL 26B como modelo de razonamiento, así que el prompting clásico de cadena de pensamiento es la forma de pedirle pasos. La guía de respuestas vacías y el artículo sobre el costo de los tokens de razonamiento explican cómo presupuestarlos.