BroadRouter
ابدأ الآن

متى تستحق نافذة سياق بمليون رمز (ومتى لا تستحق)؟

بقلم فريق BroadNet Inference · قراءة في 4 دقائق · تاريخ النشر

نافذة السياق بمليون رمز تتيح لطلب واحد أن يحمل قاعدة شيفرة كاملة أو مجموعة عقود أو ساعات من النصوص المفرّغة، فيرى النموذج كل شيء دفعة واحدة بدل أجزاء مسترجعة. وهي مجدية للاستدلال عبر ملفات متعددة وللتحليل لمرة واحدة؛ أما لعمليات البحث المتكررة في مجموعة كبيرة متغيرة فالاسترجاع أرخص. ويقبل DeepSeek V4.1 Flash وGLM 5.3 حتى 1,048,576 رمزًا.

Light shining through towering cliffs made of stacked paper pages.

نمت نوافذ السياق من بضعة آلاف من الرموز إلى أكثر من مليون. ويقبل DeepSeek V4.1 Flash وGLM 5.3 على BroadNet Inference حتى 1,048,576 رمزًا في الطلب الواحد، للأمر والإجابة معًا. وهذا يغيّر طريقة البناء الممكنة، لكنه لا يجعل كل أمر أفضل.

ما الذي يتسع له مليون رمز؟

على سبيل التقريب: بلغت 1,000 كلمة من النثر الإنجليزي نحو 1,290 رمز، كمتوسط عبر خمسة مُرمِّزات، في مجموعة بيانات كفاءة المُرمِّزات لدينا، فالمليون رمز يساوي تقريبًا 810,000 كلمة من النثر العادي:

المحتوى تقريبًا
قاعدة شيفرة متوسطة الحجم (عشرات الآلاف من الأسطر) تتسع، مع مساحة فائضة
عدة عقود طويلة مع ملاحقها تتسع
يوم كامل من النصوص المفرّغة للاجتماعات يتسع
مستودع أحادي (monorepo) كبير مع اعتمادياته غالبًا لا يتسع؛ اختر مجلدات بعينها

أعداد الرموز تعتمد على اللغة والمحتوى. فالشيفرة والنص العربي يستهلكان غالبًا رموزًا أكثر لكل حرف من النثر الإنجليزي. قِس بكتلة usage في طلب حقيقي بدل التقدير، أو افحص عيّنة في حاسبة نافذة السياق.

أي نماذج BroadNet لها نافذة سياق بمليون رمز؟

النموذج نافذة السياق الإدخال الإخراج الصور
DeepSeek V4.1 Flash 1,048,576 $0.175 $0.52 نعم
GLM 5.3 1,048,576 $0.78 $3.46 لا
Qwen3.8 27B 262,144 $0.175 $2.17 نعم
BroadNet Gemma 4 VL 26B 32,768 $0.10 $0.22 نعم

الأسعار لكل مليون رمز. ويضيف GLM 5.3 استدعاء الأدوات والمخرجات المهيكلة على نافذة المليون نفسها.

متى تستحق نافذة المليون رمز؟

  • الاستدلال عبر ملفات متعددة. سؤال مثل «لماذا يفشل هذا الاختبار؟» يعتمد غالبًا على خمسة ملفات لن يفكر أحد في استرجاعها معًا.
  • مراجعة المستند كاملًا. العثور على تعارض بين البند 4 والملحق B يحتاج إلى رؤيتهما معًا.
  • التحليل لمرة واحدة. لسؤال ستطرحه مرة واحدة، يكلّف بناء فهرس استرجاع جهدًا أكثر مما يوفّر.
  • الوكلاء. الوكيل الفرعي القادر على قراءة الوحدة كلها يخمّن خطأً بقدر أقل. راجع تشغيل وكلاء متوازين.

متى يظل الاسترجاع الخيار الأفضل؟

يتفوّق الاسترجاع في عمليات البحث الصغيرة الكثيرة داخل مكتبة أكبر بكثير من أي نافذة، وفي المحتوى الذي يتغير كل دقيقة، وفي الإجابات التفاعلية السريعة حيث تضيف قراءة أمر ضخم أولًا تأخيرًا. وكثير من أنظمة الإنتاج تجمع بين الاثنين: تسترجع أكثر 200,000 رمز صلة، ثم تدع نموذجًا بسياق طويل يستدل عليها كلها. والقرار الكامل، مع تكلفة الاستعلام وزمن الاستجابة ودقة الاسترجاع جنبًا إلى جنب، في مقال السياق الطويل مقابل RAG.

هل يستخدم النموذج النافذة كلها فعلًا؟

ليس بالتساوي. والأبحاث متسقة في ذلك:

  • وجدت ورقة Lost in the Middle (Liu وآخرون) أن الأداء “is often highest when relevant information occurs at the beginning or end of the input context” (الترجمة: «يكون غالبًا في أعلاه حين تقع المعلومات ذات الصلة في بداية سياق المُدخل أو نهايته»).
  • واختبر تقرير Context Rot من Chroma ثمانية عشر نموذجًا، ووجد أن “performance grows increasingly unreliable as input length grows” (الترجمة: «الأداء يصبح أقل موثوقية باطّراد مع ازدياد طول المُدخل»)، حتى في المهام البسيطة.

لم تختبر هذه الدراسات النماذج على BroadNet، فاعتبرها تحذيرًا لا قياسًا. والقاعدة العملية: النافذة التي تقبل مليون رمز لا تعني أن كل رمز يحظى بالانتباه نفسه. ضع أهم المواد قرب البداية أو النهاية، واختبر دقة الاسترجاع على مستنداتك أنت.

كم يكلّف أمر بمليون رمز؟

على مفتاح الدفع حسب الاستخدام، يحتسب DeepSeek V4.1 Flash سعر $0.175 لكل مليون رمز إدخال و$0.0055 لكل مليون رمز إدخال مخزّن مؤقتًا. فيكلّف أمر كامل بمليون رمز نحو $0.175 في المرة الأولى، وأقل بكثير في الاستدعاءات المتكررة حين تُخزَّن البادئة مؤقتًا. راجع كيف ترفع نسبة التخزين المؤقت لديك.

وتبيّن حاسبة التخزين المؤقت للأوامر كم توفّر الإصابة في الذاكرة المؤقتة بأحجام أوامرك أنت. ومثال محسوب: عشرة أسئلة عن مجموعة العقود نفسها البالغة 800,000 رمز. دون تخزين مؤقت، هذا 8 ملايين رمز بسعر $0.175 لكل مليون. وإن جاءت المستندات أولًا وبقيت متطابقة، يقرأ الاستدعاء الأول 800,000 رمز جديد، ويمكن للاستدعاءات التسعة التالية قراءة معظمها من الذاكرة المؤقتة بسعر $0.0055 لكل مليون. ولا يتغير إلا السؤال والإجابة.

وفي الخطة غير المحدودة لا يغيّر حجم الأمر الفاتورة: فخطة البدر (Full Moon) بسعر $60 شهريًا لكل جلسة دون عدّاد رموز. ولهذا يُعد وكلاء السياق الطويل سببًا شائعًا لاختيار الخطة الثابتة بدل الدفع لكل رمز.

كم مساحة تترك للإجابة؟

النافذة تشمل الأمر والإخراج، وفي نماذج الاستدلال المنطقي يتضمن الإخراج التفكير. فإن أرسلت أمرًا من 1,040,000 رمز، لا يبقى إلا نحو 8,000 رمز للاستدلال المنطقي والإجابة. احتفظ بهامش، واضبط max_tokens صراحةً، واقرأ لماذا قد تُعيد نماذج الاستدلال المنطقي إجابة فارغة.

كيف تجهّز قاعدة شيفرة لأمر بمليون رمز؟

  1. استبعد ما لا يحتاجه النموذج. ملفات القفل، ومخرجات البناء، والاعتماديات المضمّنة، والصور، والشيفرة المولّدة تستهلك رموزًا وتضيف ضجيجًا.
  2. احسب قبل الإرسال. أرسل عيّنة صغيرة، واقرأ prompt_tokens من الاستخدام، ثم وسّع.
  3. رتّب حسب الثبات. الملفات نادرة التغيير أولًا، والملفات قيد التعديل أخيرًا، والسؤال في النهاية تمامًا. فهذا يُبقي البادئة قابلة للتخزين المؤقت.
  4. عنوِن كل ملف. غلّف الملفات بعلامات واضحة مثل === path/to/file.py === ليتمكن النموذج من الاستشهاد بها.
  5. اطلب استشهادات. عبارة مثل «اقتبس السطر الذي تعتمد عليه» تقلّل الأخطاء الواثقة في المُدخلات الضخمة.
  6. قِس. سجّل رموز الأمر والرموز المخزّنة مؤقتًا وزمن الوصول إلى أول رمز لكل طلب. والبث يُظهر الرمز الأول فور وصوله.

أين تقع BroadNet Inference من هذا؟

نموذجان من نماذج المحادثة لديها يقبلان 1,048,576 رمزًا في الطلب، ولا تقصّ BroadNet سياقك. وعلى مفتاح الدفع لكل رمز، يُبقي التخزين المؤقت الأوامر الطويلة المتكررة في المتناول؛ وفي جلسة الخطة لا يؤثر حجم الأمر في الفاتورة. وإن كانت مجموعتك أكبر بكثير من مليون رمز أو تتغير كل دقيقة، فلا تزال تحتاج إلى الاسترجاع، ولا يغيّر أي حجم للنافذة ذلك.

أسئلة شائعة

هل تقصّ BroadNet الأوامر الطويلة؟

لا. لا تقصّ BroadNet سياقك. فإن تجاوز الأمر مع max_tokens نافذة النموذج، فاختصر الأمر بدل الاعتماد على قصّ صامت.

كم كلمة يساوي مليون رمز؟

يعتمد ذلك على اللغة والمحتوى. سجّل النثر الإنجليزي نحو 129 رمز لكل 100 كلمة في مجموعة بيانات المُرمِّزات من BroadRouter (بلغت 1,000 كلمة نحو 1,290 رمز، كمتوسط عبر خمسة مُرمِّزات)، فيتسع 1,048,576 رمزًا لنحو 810,000 كلمة، أي أكثر من ألف صفحة بكثير. والنصوص التقنية والشيفرة والعربية تحتاج رموزًا أكثر، فاحسب محتواك الفعلي.

هل الطلب بمليون رمز بطيء؟

يستغرق وقتًا أطول ليبدأ مقارنةً بطلب قصير، لأن النموذج يجب أن يقرأ الأمر كله أولًا. والبادئات المخزّنة مؤقتًا تساعد عادةً في الاستدعاءات المتكررة. قِس زمن الوصول إلى أول رمز على أوامرك أنت.

هل تستخدم نماذج اللغة نافذة السياق كلها فعلًا؟

ليس بالتساوي. وجدت ورقة Lost in the Middle أن الدقة تكون غالبًا في أعلاها حين تقع المعلومات ذات الصلة في بداية المُدخل أو نهايته، ووجد تقرير Context Rot من Chroma أن الموثوقية تنخفض مع ازدياد طول المُدخل. ضع المواد الأساسية عند الأطراف واختبر على بياناتك.

هل أتوقف عن استخدام RAG؟

ليس بالضرورة. استخدم السياق الطويل حين يحتاج النموذج إلى رؤية كل شيء معًا، والاسترجاع حين يحتاج إلى بضع حقائق من مكتبة ضخمة. وكثير من الأنظمة تجمع بين الاثنين.

ماذا يحدث إذا كان الأمر أكبر من نافذة السياق؟

لا تقصّه BroadNet نيابةً عنك، فلن يُنفَّذ الطلب كما تريد. احذف ملفات، أو لخّص الأدوار القديمة، أو استرجع الأجزاء ذات الصلة فقط قبل الإرسال.

اقرأها بصيغة Markdownاسأل ChatGPTاسأل Claudeاسأل Perplexity