Düşünce zinciri bir istem hilesi olarak başladı ve bir model özelliğine dönüştü.
Nasıl çalışır
Wei ve meslektaşları yöntemi 2022’de yayımladı. Yalnızca soru ve cevabı gösteren few-shot örnekler yerine aradaki adımları da gösteren örnekler yazdılar. Bu türden sekiz örnekle 540 milyar parametreli bir model, ilkokul düzeyindeki matematik problemlerinden oluşan GSM8K’de, doğrulayıcılı ince ayarlı bir GPT-3’ün önüne geçerek en ileri düzeyde doğruluğa ulaştı. Aritmetik, sağduyu ve sembolik akıl yürütmeyi test ettiler.
Bir istemdeki düşünce zinciri örneği:
Q: A shop has 23 apples. It uses 20 and buys 6 more. How many are left?
A: It starts with 23. After using 20 it has 3. After buying 6 it has 9. The answer is 9.
Adımları yazmak, modele bir cevaba bağlanmadan önce daha fazla token hesaplama alanı verir ve her adım bir sonrakini koşullar. Bu, örneklerin yalnızca bir biçimi değil bir yöntemi öğrettiği bir few-shot istem türüdür.
Akıl yürütme modelleri bunu nasıl içselleştirir
Akıl yürütme modelleri bu adım adım metni kendileri üretmek üzere eğitilir. OpenAI’ın rehberi bu modellerin “use internal reasoning tokens before producing a response” (çeviri: yanıt üretmeden önce dahili akıl yürütme token’ları kullandığını) ve bu token’ların API’sinde görünmediğini, ama yine de bağlam kapladığını ve çıktı olarak faturalandığını söyler. Bazı açık modeller ise akıl yürütmeyi ayrı bir alanda döndürür. Nasıl sayıldıkları için bkz. akıl yürütme token’ları.
Neden önemli
- Doğruluk. Matematik, planlama ve kod düzeltme gibi çok adımlı görevler en çok fayda görür. Basit bilgi sorguları pek kazanmaz.
- Maliyet ve gecikme. Her adım bir çıktı token’ıdır. Uzun bir zincir cevaptan daha pahalıya gelebilir.
- Kanıt değildir. Yazılmış adımlar sağlam görünüp yine de yanlış olabilir; bu yüzden halüsinasyonu önlemezler.
BroadNet Inference’ta
BroadNet’in belgeleri DeepSeek V4.1 Flash, GLM 5.3 ve Qwen3.8 27B’nin cevaplamadan önce akıl yürüttüğünü ve akıl yürütmenin max_tokens sınırına dahil olduğunu söyler. 1.000 veya daha fazla token bırakın ya da reasoning_effort değerini low yapın; küçük bir sınırla cevap boş dönebilir. Raporlandığında usage.completion_tokens_details.reasoning_tokens kaç tane kullanıldığını gösterir. Belgeler BroadNet Gemma 4 VL 26B’yi akıl yürütme modeli olarak listelemez; bu yüzden ondan adım istemenin yolu klasik düşünce zinciri istemidir. Boş yanıt rehberi ve akıl yürütme token maliyeti yazısı bütçelemeyi ele alır.