خريطة الأمان (The Safety Map) هي دراسة BroadNet لكيفية تعامل النماذج اللغوية الكبيرة مع البيانات الحساسة. نُشرت الورقة الأولية، The Safety Map: What Does and Doesn’t Transfer in LLM Sensitive-Data Handling (الترجمة: خريطة الأمان: ما الذي ينتقل وما الذي لا ينتقل في تعامل نماذج LLM مع البيانات الحساسة)، على Zenodo في 22 أبريل 2026 تحت المعرّف DOI 10.5281/zenodo.19688433، ومؤلفها محمد الزبيدي (Mohammad Al Zubaidi). وهي الورقة المرافقة لـ طريقة BroadNet لتقييم البيانات الحساسة.
ما يلي ملخصنا للخلاصة ولصفحة أبحاث BroadNet. والأحكام أحكام BroadNet.
ماذا غطّت الدراسة؟
| البُعد | التغطية |
|---|---|
| النماذج | 39، من 14 مختبرًا مستقلًا |
| سيناريوهات الفحص | 7 |
| الفئات | بيانات الاعتماد، والبيانات الشخصية (PII)، والمعلومات الصحية المحمية (PHI)، وأرقام الحسابات المالية، وفحص منع فقدان البيانات (DLP) |
| الأدلة | أكثر من 135 تركيبة مصنّفة من النماذج والفحوص، من نحو 1,300 تقييم متعدد التشغيلات |
ويذكر كتالوج BroadNet أنها مرّرت نحو 90 نموذجًا بعيدًا ونموذج API، لم تشغّلها قط على عتادها الخاص، عبر أدوات اختبار الأمان والتوجيه والعربية لديها، وأن تلك النتائج تغذّي هذه الخريطة.
ما النتائج الرئيسية؟
الأمان سطح، لا درجة واحدة. فهو يتفاوت على ثلاثة محاور تتراكب:
- البنية. تذكر الورقة حدًا أدنى للسعة قدره نحو 24B معاملًا نشطًا في بيانات الاعتماد، عبر تصاميم التوجيه المختلفة، ونماذج مزيج الخبراء ذات المعاملات النشطة القليلة هي الحالة الرئيسية.
- الجيل. تحرّك جودة المواءمة الحدّ داخل عائلة النماذج الواحدة.
- استثمار المختبر في المواءمة. فوسم النموذج الرائد من مختبر معروف ليس ضمانًا.
ولا يتنبأ أي من المحاور الثلاثة بالأمان وحده؛ بل تجتمع.
الأمان لا ينتقل بين الفئات. فالتعامل السليم مع بيانات الاعتماد وأرقام الضمان الاجتماعي لم ينتقل إلى الأسماء أو السجلات الصحية أو أرقام الحسابات في النموذج نفسه.
قنوات الإخراج تتسرّب كلٌّ على حدة. وهذه هي النتيجة ذات الوزن العملي الأكبر:
- من 73 تشغيلًا ملأت
tool_calls.arguments، أرسل 20 تشغيلًا قيمًا حساسة عبر استدعاء الأداة. ومن بين النماذج وراء تلك التشغيلات Kimi K2.6 من Moonshot، الذي اختُبر في يوم إصداره، وهو نموذج تصنّفه الورقة في ما عدا ذلك آمنًا عبر التشغيلات المتعددة في بيانات الاعتماد والبيانات الشخصية والبيانات المالية وDLP. - من 43 تشغيلًا ملأ فيها المزوّد
reasoning_contentبعشرين حرفًا على الأقل، سرّب 29 تشغيلًا قيمًا حساسة في الاستدلال بينما صُنّف رد المحادثة آمنًا، أو فائتًا، أو مبتورًا.
التقليم قد يكسر الأمان. فنسختان مقلّمتان مستقلتان من سلسلة Llama من Meta، أعدّتهما NVIDIA بالبحث في البنى العصبية، كسرتا أمان البيانات الصحية عبر قنوات إخراج مختلفة.
وتنتهي الورقة بترتيب من خمس طبقات. مجموعتها العليا، الآمنة بانتظام في كل فئة اختُبرت، هي Claude Opus 4.7، وGPT-5.4 وGPT-5.4-mini، وGemini 3 Flash وGemini 3.1 Pro. ويقول الملخص إن النماذج الرائدة من xAI Grok وMeta Llama لا تدخل تلك المجموعة.
ما الذي يجب أن تغيّره في منظومتك؟
- رشّح كل قناة. فالفحص على الرد الظاهر يفوّت معاملات استدعاء الأدوات وحقول الاستدلال. وإذا كنت تستخدم استدعاء الأدوات أو نموذج استدلال، فافحص الاثنين.
- اختبر بحسب الفئة. فالنتيجة السليمة في بيانات الاعتماد لا تقول شيئًا عن البيانات الصحية أو بيانات الرواتب.
- أعد الاختبار عند تحديث النماذج. فنتيجة Kimi K2.6 جاءت من نموذج في يوم إصداره.
- احجب أولًا حيثما أمكن. فالنموذج لا يستطيع تسريب ما لم يرَه قط. ويعرض دليلنا للبيانات الحساسة الحجب بعناصر نائبة في Python.
ما هو LSDF؟
LSDF، أي LLM Sensitive Data Firewall (جدار حماية البيانات الحساسة لنماذج LLM)، هو أداة التحكم التي بنتها BroadNet من هاتين الورقتين وأصدرتها مفتوحة المصدر بترخيص Apache-2.0 على github.com/brntech/lsdf. وهو وكيل عكسي (reverse proxy) لواجهة chat completions المتوافقة مع OpenAI: توجّه base URL في عميلك إليه، فيمرّر الطلبات إلى خادم النموذج أو المزوّد لديك. وتقول BroadNet إنه يفحص الطلبات، والاستجابات، والأجزاء المتدفقة، ومعاملات استدعاء الأدوات المتدفقة، والسياق المسترجع، وحقول الاستدلال، وينظّف التتبعات والسجلات بشكل منفصل.
ويذكر تقييم BroadNet في مايو 2026 على مجموعات بياناتها الخاصة معدل الاستدعاء (recall) التالي:
| مجموعة الكواشف | إعادة تشغيل بيانات الاعتماد | المعلومات الصحية السريرية PHI | البيانات الشخصية الإنجليزية الواسعة |
|---|---|---|---|
| التعابير النمطية (Regex) فقط | 0.944 | 0.019 | 0.208 |
| Microsoft Presidio | 0.194 | 0.056 | 0.326 |
| كواشف LSDF للبيانات الشخصية الواسعة | 1.000 | 0.944 | 0.685 |
هذه أرقام مورّد لأداته الخاصة، على مجموعات بيانات اختارها. وهي مفيدة كنقطة بداية، ويتضمن المستودع إعادة التشغيل لتتمكن من التحقق منها. ويعمل LSDF أمام أي نموذج، بما في ذلك النماذج التي لا تستضيفها BroadNet.
ما الحدود؟
الورقة أولية، ولم تخضع لمراجعة الأقران. وبموجب سياسة النشر المسؤول لدى BroadNet، حُجبت الأوامر الدقيقة، وصيغ بيانات الاعتماد، والعتبات من النسخة العامة، وتُشارك مع مزوّدي النماذج والباحثين عند الطلب. وإصدارات النماذج تتغير بسرعة، فالحكم الصادر في أبريل 2026 سبب للاختبار، لا بديل عنه.
