BroadRouter

Düşünce zinciri (chain-of-thought, CoT)

Güncellendi

Düşünce zinciri (chain-of-thought, CoT), bir dil modeline nihai cevabından önce ara akıl yürütme adımlarını yazmasının gösterildiği veya istendiği bir istem tekniğidir. Aritmetik ve mantık gibi çok adımlı problemlerde doğruluğu artırır; akıl yürütme modelleri artık bunu kendiliğinden üretir.

Diğer adları: düşünce zinciri, düşünce zinciri istemi, adım adım istem, CoT, chain-of-thought prompting, step-by-step prompting, CoT prompting

Düşünce zinciri bir istem hilesi olarak başladı ve bir model özelliğine dönüştü.

Nasıl çalışır

Wei ve meslektaşları yöntemi 2022’de yayımladı. Yalnızca soru ve cevabı gösteren few-shot örnekler yerine aradaki adımları da gösteren örnekler yazdılar. Bu türden sekiz örnekle 540 milyar parametreli bir model, ilkokul düzeyindeki matematik problemlerinden oluşan GSM8K’de, doğrulayıcılı ince ayarlı bir GPT-3’ün önüne geçerek en ileri düzeyde doğruluğa ulaştı. Aritmetik, sağduyu ve sembolik akıl yürütmeyi test ettiler.

Bir istemdeki düşünce zinciri örneği:

Q: A shop has 23 apples. It uses 20 and buys 6 more. How many are left?
A: It starts with 23. After using 20 it has 3. After buying 6 it has 9. The answer is 9.

Adımları yazmak, modele bir cevaba bağlanmadan önce daha fazla token hesaplama alanı verir ve her adım bir sonrakini koşullar. Bu, örneklerin yalnızca bir biçimi değil bir yöntemi öğrettiği bir few-shot istem türüdür.

Akıl yürütme modelleri bunu nasıl içselleştirir

Akıl yürütme modelleri bu adım adım metni kendileri üretmek üzere eğitilir. OpenAI’ın rehberi bu modellerin “use internal reasoning tokens before producing a response” (çeviri: yanıt üretmeden önce dahili akıl yürütme token’ları kullandığını) ve bu token’ların API’sinde görünmediğini, ama yine de bağlam kapladığını ve çıktı olarak faturalandığını söyler. Bazı açık modeller ise akıl yürütmeyi ayrı bir alanda döndürür. Nasıl sayıldıkları için bkz. akıl yürütme token’ları.

Neden önemli

  • Doğruluk. Matematik, planlama ve kod düzeltme gibi çok adımlı görevler en çok fayda görür. Basit bilgi sorguları pek kazanmaz.
  • Maliyet ve gecikme. Her adım bir çıktı token’ıdır. Uzun bir zincir cevaptan daha pahalıya gelebilir.
  • Kanıt değildir. Yazılmış adımlar sağlam görünüp yine de yanlış olabilir; bu yüzden halüsinasyonu önlemezler.

BroadNet Inference’ta

BroadNet’in belgeleri DeepSeek V4.1 Flash, GLM 5.3 ve Qwen3.8 27B’nin cevaplamadan önce akıl yürüttüğünü ve akıl yürütmenin max_tokens sınırına dahil olduğunu söyler. 1.000 veya daha fazla token bırakın ya da reasoning_effort değerini low yapın; küçük bir sınırla cevap boş dönebilir. Raporlandığında usage.completion_tokens_details.reasoning_tokens kaç tane kullanıldığını gösterir. Belgeler BroadNet Gemma 4 VL 26B’yi akıl yürütme modeli olarak listelemez; bu yüzden ondan adım istemenin yolu klasik düşünce zinciri istemidir. Boş yanıt rehberi ve akıl yürütme token maliyeti yazısı bütçelemeyi ele alır.

Sık sorulan sorular

Düşünce zinciri ile akıl yürütme token'ları aynı şey mi?

Bağlantılılar ama aynı değiller. Düşünce zinciri, adımları yazma tekniğidir. Akıl yürütme token'ları ise bir akıl yürütme modelinin bunu içeride yaparken ürettiği token'lardır ve çıktı olarak faturalanır.

Akıl yürütme modeline "adım adım düşün" yazmalı mıyım?

Genellikle gereksizdir. Akıl yürütme modelleri cevaplamadan önce zaten akıl yürütür. OpenAI'ın rehberi her adımı tarif etmek yerine onlara net bir hedef ve kısıtlar vermeyi önerir.

Düşünce zinciri daha pahalı mı?

Evet. Adımlar çıktı token'larıdır; bunlar genellikle en pahalı token'lardır ve gecikme de eklerler.

Markdown olarak okuChatGPT asistanına sorClaude asistanına sorPerplexity asistanına sor