BroadRouter

التدقيق الإملائي والنحوي للنص العربي بنموذج LLM: دليل عملي

بقلم فريق BroadNet Inference · قراءة في 8 دقائق · تاريخ النشر · آخر تحديث

لتصحيح النص العربي بنموذج LLM، اطلب منه النص المصحَّح وحده، بأقل عدد ممكن من التعديلات ومن دون إعادة صياغة. ثم قارن الرد بالمدخل في الشيفرة: ارفض الردود التي غيّرت الكثير، وصنّف كل تعديل على مستوى الكلمة إلى همزة أو تاء مربوطة أو ألف مقصورة أو دمج أو فصل أو غير ذلك. وقيّم عينة مصحَّحة يدويًا على مستوى التعديلات بالدقة والاستدعاء وF0.5.

يبدو التدقيق اللغوي العربي أمرًا من سطر واحد: «صحّح هذا النص». لكن النموذج في الواقع يعيد الصياغة أيضًا، ويضيف التشكيل، ويستبدل كلمة عامية بأخرى فصيحة، ويشرح تغييراته، فلا تعرف أي التعديلات كانت لازمة. يبني هذا المقال أداة تصحيح على نموذج LLM متوافق مع OpenAI تُجري أقل عدد من التعديلات، وتتحقق من الرد في الشيفرة، وتصنّف كل تعديل بحسب نوع الخطأ، وتقيس النتيجة كلها كما تفعل معايير البحث العلمي.

ما مدى جودة نماذج LLM في التدقيق النحوي العربي؟

المعايير القياسية هي المهام المشتركة QALB. استخدمت QALB-2014 تعليقات بالعربية الفصحى الحديثة من موقع الجزيرة: أكثر من مليون كلمة من نص التدريب فيها نحو 306,000 تصحيح، ومجموعات اختبار من نحو 50,000 كلمة. وأضافت QALB-2015 مسارًا ثانيًا لمقالات متعلمي العربية لغةً أجنبية (L2). وقيّمت المهمتان الأنظمة على مستوى التعديلات بأداة M2 scorer. وأفضل النتائج، بمقياس F1 (الأعلى أفضل):

مجموعة الاختبار أفضل نظام (F1) النص
اختبار QALB-2014 67.91 تعليقات إخبارية لناطقين أصليين
اختبار الناطقين الأصليين في QALB-2015 72.87 تعليقات إخبارية لناطقين أصليين
اختبار المتعلمين (L2) في QALB-2015 41.20 مقالات متعلمين

صف المتعلمين هو التحذير المفيد. فنص المتعلمين فيه أخطاء أكثر في اختيار الكلمات وكلمات ناقصة، وسجّل أفضل نظام نتيجة أدنى بكثير. فإن كان مستخدموك متعلمين، فتوقّع أن تشبه أرقامك ذلك الصف.

ثم شغّل Kwon وBhatia وNagoudi وAbdul-Mageed (ArabicNLP 2023) نموذجي ChatGPT وGPT-4 على مجموعة اختبار QALB-2014. وبأداة القياس نفسها:

النظام F1
ChatGPT، مثال واحد 53.59
ChatGPT، خمسة أمثلة 63.98
GPT-4، خمسة أمثلة 65.49
AraT5v2، مضبوط ضبطًا دقيقًا 67.70

تفصيلان يهمّان أمرك. الأمثلة الإضافية ساعدت كثيرًا. والأوامر بلا أمثلة (zero-shot) والأوامر المكتوبة بالعربية أعطت ردودًا مليئة بالشروح لم يستطع المؤلفون قياسها آليًا. وأداة التصحيح تحتاج إلى مخرجات يستطيع برنامج مقارنتها.

لماذا لا تكتفي بتوحيد النص؟

تحذف أداة توحيد النص العربي في هذا الموقع التشكيل والتطويل، وتحوّل أ إ آ إلى ا، واختياريًا ى إلى ي وة إلى ه. وهذه الخطوة الصحيحة للبحث، لأن المستخدم الذي يكتب احمد يجب أن يجد أحمد. لكنها الخطوة الخاطئة قبل التصحيح، لأنها تمحو الفرق الذي يجب على أداة التصحيح استعادته. فبعد التوحيد تصبح انا وأنا السلسلة نفسها، فيختفي خطأ الهمزة ويختفي إصلاحه معه.

احتفظ بثلاث نسخ حين تحتاج إلى الأمرين: النص الأصلي، والنص المصحَّح الذي تعرضه للمستخدمين، ونسخة موحَّدة من النص المصحَّح لفهرس البحث. ويغطي توحيد النص العربي للبحث جانب الفهرسة. لكن خطوة توحيد واحدة تأتي فعلًا قبل التصحيح: صيغة Unicode NFC، التي تجمع الألف المفكّكة مع الهمزة المركّبة في حرف واحد، كي لا تُبلغ المقارنة عن تغيير غير موجود.

ماذا يجب أن يقول الأمر؟

اطلب أقل تعديل، وسمِّ أنواع الأخطاء التي تهمك، وامنع التغييرات التي لا تريدها، واطلب النص المصحَّح وحده. وكتابة التعليمات بالإنجليزية أو العربية خيارك؛ ويشرح مقال هندسة الأوامر للعربية المفاضلة. حصل Kwon وزملاؤه على مخرجات صالحة من تعليمات إنجليزية مع أمثلة. وإضافة ثلاثة إلى خمسة أزواج من جمل مصحَّحة من بياناتك (few-shot) هي أرخص تحسين تجربه أولًا.

اضبط temperature على 0؛ فأنت تريد التصحيح نفسه في كل مرة. وإن كان النص بلهجة مثل المصرية أو الخليجية، فحدّد هل تُبقى اللهجة. ويفترض الأمر أدناه العربية الفصحى الحديثة (MSA)، ويطلب من النموذج ألا يغيّر الأسلوب، وهذا يشمل اللهجة أيضًا.

كيف تتحقق من رد النموذج؟

ترسل الشيفرة طلبًا واحدًا، وتقيس مقدار اختلاف الرد عن المدخل، وتستخرج التعديلات على مستوى الكلمة، وتصنّف كلًّا منها.

import difflib, os, re, unicodedata
from openai import OpenAI

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])

SYSTEM = """You are an Arabic proofreader. Correct spelling, grammar and punctuation
errors in the user's Modern Standard Arabic text with the fewest possible edits.
Rules:
- Fix hamza, taa marbuta (ة/ه), alef maqsura (ى/ي), agreement, missing or extra
  letters, wrongly split or merged words, and punctuation.
- Do not rephrase, reorder, shorten, translate or change the style or dialect.
- Do not add or remove diacritics (tashkeel).
- If the text is already correct, return it unchanged.
Reply with the corrected text only: no explanation, no quotes, no list of changes."""

def tokens(s: str) -> list[str]:
    s = unicodedata.normalize("NFC", s)        # composed hamza forms, so أ is one character
    return re.findall(r"\w+|[^\w\s]", s)       # Arabic letters are \w; ، ؟ ؛ become tokens

def edits(src: str, hyp: str) -> list[tuple]:
    """Word-level edits (start, end, replacement, original): the idea behind an M2 file's A lines."""
    a, b = tokens(src), tokens(hyp)
    out = []
    for op, i1, i2, j1, j2 in difflib.SequenceMatcher(None, a, b, autojunk=False).get_opcodes():
        i, j = i1, j1
        while op != "equal" and (i < i2 or j < j2):     # split the block into one-word edits
            if i + 1 < i2 and j < j2 and a[i] + a[i + 1] == b[j]:      # و قابلت -> وقابلت
                out.append((i, i + 2, b[j], f"{a[i]} {a[i + 1]}")); i += 2; j += 1
            elif i < i2 and j + 1 < j2 and a[i] == b[j] + b[j + 1]:    # عبدالله -> عبد الله
                out.append((i, i + 1, f"{b[j]} {b[j + 1]}", a[i])); i += 1; j += 2
            elif i < i2 and j < j2:
                out.append((i, i + 1, b[j], a[i])); i += 1; j += 1
            elif i < i2:                                                # deleted word
                out.append((i, i + 1, "", a[i])); i += 1
            else:                                                       # inserted word
                out.append((i, i, b[j], "")); j += 1
    return out

HAMZA = str.maketrans("أإآٱؤئ", "ااااوي")
RULES = [("hamza", lambda w: w.translate(HAMZA).replace("ء", "")),
         ("taa marbuta", lambda w: w.replace("ة", "ه")),
         ("alef maqsura", lambda w: w.replace("ى", "ي"))]

def error_class(orig: str, corr: str) -> str:
    if all(not c.isalnum() for c in (orig + corr).replace(" ", "")):
        return "punctuation"
    if orig != corr and orig.replace(" ", "") == corr.replace(" ", ""):
        return "merge" if " " in orig else "split"
    for name, f in RULES:
        if orig != corr and f(orig) == f(corr):
            return name
    both = lambda w: RULES[2][1](RULES[1][1](RULES[0][1](w)))
    if both(orig) == both(corr):
        return "mixed orthography"
    return "other"

def correct(text: str, model="broadnet/qwen3.8-27b", min_similarity=0.8) -> dict:
    r = client.chat.completions.create(
        model=model, temperature=0, max_tokens=2000,
        messages=[{"role": "system", "content": SYSTEM}, {"role": "user", "content": text}])
    out = r.choices[0].message.content.strip()
    sim = difflib.SequenceMatcher(None, text, out, autojunk=False).ratio()
    if sim < min_similarity:             # a rewrite, not a correction: keep the original
        return {"text": text, "edits": [], "rejected": out, "similarity": round(sim, 2)}
    return {"text": out, "similarity": round(sim, 2),
            "edits": [{"from": o, "to": c, "class": error_class(o, c)} for _, _, c, o in edits(text, out)]}

شغّلناها على خادم محاكاة محلي بردود معدّة مسبقًا (بلا استدعاء للواجهة الحية، لأن المحاكاة تعيد ما كتبناه). فللجملة «ذهبت الى المدرسه و قابلت المعلمه في الصباح»، أعطى الرد «ذهبت إلى المدرسة وقابلت المعلمة في الصباح» أربعة تعديلات: «الى» إلى «إلى» (hamza)، و«المدرسه» إلى «المدرسة» (taa marbuta)، و«و قابلت» إلى «وقابلت» (merge)، و«المعلمه» إلى «المعلمة» (taa marbuta). وللعبارة «مشي الي»، أدرجت «مشي» إلى «مشى» (alef maqsura)، و«الي» إلى «إلى» (mixed orthography، لأنه يصلح الهمزة والألف المقصورة معًا). أما رد معدّ حوّل «الطقس جميل اليوم» إلى جملة بضعف الطول فسجّل تشابهًا قدره 0.52، فاحتفظت الشيفرة بالأصل وسجّلت الرد.

ملاحظات على الشيفرة:

  • حماية التشابه أداة غير دقيقة. قد تقع جملة كثيرة الأخطاء الإملائية قرب 0.8 لسبب مشروع. اضبط العتبة على بياناتك، وأرسل الردود المرفوضة إلى شخص، لا إلى سلة المهملات.
  • max_tokens=2000 يترك مساحة للاستدلال. تقول وثائق BroadNet إن DeepSeek V4.1 Flash وGLM 5.3 وQwen3.8 27B تستدل قبل الإجابة، وإن الاستدلال يُحتسب ضمن max_tokens؛ ويمكنك أيضًا ضبط reasoning_effort على low. انظر الردود الفارغة من نماذج الاستدلال.
  • التصنيفات قواعد، لا محلل لغوي. يشمل «other» الحروف الناقصة («مسؤل» إلى «مسؤول»)، والمطابقة، واختيار الكلمات. ولتصنيف كامل، شغّل ARETA (أدناه) على الأزواج نفسها.

أي أنواع الأخطاء يجب أن تتابع؟

يذكر منظمو QALB الألفات المهموزة والخلط بين الألف المقصورة والياء بوصفها أكثر الأخطاء الإملائية العربية شيوعًا. وتستخدم ARETA، أداة وسم أنواع الأخطاء من CAMeL Lab (Belkebir وHabash، CoNLL 2021)، مجموعة وسوم مبنية على مدوّنة متعلمي العربية (Arabic Learner Corpus). وتشمل وسومها الإملائية OH (الهمزة)، وOT (الهاء والتاء المربوطة)، وOA (الألف والياء)، إلى جانب وسوم صرفية ونحوية ودلالية ووسوم لعلامات الترقيم والدمج (MG) والفصل (SP). وتذكر ورقتها F1 بمتوسط جزئي (micro-average) قدره 85.8% مقارنة بنص متعلمين موسوم يدويًا.

النوع الخطأ الصواب ما الذي يخطئ
الهمزة انا، الى، مسأله أنا، إلى، مسألة همزة ناقصة، أو على كرسي خاطئ، أو على الجانب الخطأ من الألف
التاء المربوطة المدرسه المدرسة ة في آخر الكلمة مكتوبة ه، أو العكس
الألف المقصورة مشي، علي (حرف جر) مشى، على ى في آخر الكلمة مكتوبة ي؛ وعلي اسم علم أيضًا، فالسياق هو الحكم
الدمج أو الفصل و قابلت، عبدالله وقابلت، عبد الله المسافات حول و وال، والأسماء المركّبة
علامات الترقيم ، أو ؟ ناقصة مضافة كان اتفاق مدققي QALB أقل ما يكون في علامات الترقيم

تابع الاستدعاء لكل نوع. فالنموذج الذي يصلح التاء المربوطة لكن تفوته الهمزة بعد حرف الجر يحتاج إلى أمثلة على هذا النمط، لا إلى نموذج آخر.

كيف تقيس أداة التصحيح؟

يُقاس تصحيح الأخطاء النحوية على مستوى التعديلات. قارن التعديلات التي تحوّل المصدر إلى جملة مرجعية مصحَّحة يدويًا بالتعديلات التي تحوّله إلى مخرجات النموذج. الدقة (precision) هي نسبة تعديلات النموذج المطابقة للمرجع. والاستدعاء (recall) هو نسبة التعديلات المرجعية التي أجراها النموذج. عرضت QALB مقياس F1؛ أما الأعمال اللاحقة، ومنها عمل Kwon وزملائه، فتعرض أيضًا F0.5 الذي يعطي الدقة ضعف وزن الاستدعاء، لأن «التصحيح» الخاطئ يزعج المستخدمين أكثر من خطأ فائت.

from collections import Counter

def score(sources, golds, hyps, beta=0.5):
    """Exact-match edit scoring: an edit counts only if span and replacement both match gold."""
    tp = fp = fn = 0
    by_class = Counter()
    for s, g, h in zip(sources, golds, hyps):
        G = {e[:3] for e in edits(s, g)}
        H = {e[:3] for e in edits(s, h)}
        tp += len(G & H); fp += len(H - G); fn += len(G - H)
        for e in edits(s, g):
            by_class[(error_class(e[3], e[2]), e[:3] in H)] += 1
    p = tp / (tp + fp) if tp + fp else 1.0
    r = tp / (tp + fn) if tp + fn else 1.0
    f = (1 + beta**2) * p * r / (beta**2 * p + r) if p + r else 0.0
    recall = {c: f"{by_class[(c, True)]}/{by_class[(c, True)] + by_class[(c, False)]}"
              for c in sorted({c for c, _ in by_class})}
    return {"P": round(p, 3), "R": round(r, 3), f"F{beta}": round(f, 3), "recall by class": recall}

على مجموعة تجريبية من جملتين فيها سبعة تعديلات مرجعية، فاتت المخرجاتِ فيها حالةُ الدمج وتاءٌ مربوطة واحدة، وأضافت نقطة، طبع السكربت P 0.833 وR 0.714 وF0.5 0.806، مع الاستدعاء لكل نوع: hamza 2/2، وtaa marbuta 2/3، وmerge 0/1.

هذه فكرة M2 مبسّطة. فأداة M2 scorer الرسمية تبحث عن محاذاة تعديلات النظام الأقرب إلى المرجع، فلا تُعاقَب إصلاحات صحيحة قُسّمت إلى تعديلات بطريقة مختلفة عن المرجع. والمطابقة التامة عندنا أشد صرامة. استخدم الأداة الرسمية حين تقارن بأرقام منشورة (ما زالت نسخة المطورين منها تحتاج إلى Python 2). ويؤدي ERRANT استخراج التعديلات نفسه، لكن للإنجليزية فقط.

ابنِ المجموعة المرجعية من نصوص مستخدمين حقيقية، من 100 إلى 200 جملة، يصححها مدقق واحد متأنٍّ بقواعد أقل تعديل نفسها التي أعطيتها للنموذج. شغّل كل نموذج وأمر مرشّح عليها، وقارن F0.5 والاستدعاء لكل نوع. ويشرح كيف تقيّم نموذج LLM قبل الانتقال إليه إجراء هذه المقارنة بإنصاف.

ماذا عن Tibyan والبيانات الاصطناعية؟

بيانات التصحيح العربية الموسومة شحيحة. ويشير Alrehili وAlhothali إلى أن QALB-14 وQALB-15 معًا تضمان نحو 20,500 مثال متوازٍ. واستخدمت مدوّنتهما Tibyan (arXiv 2024، ثم في PeerJ Computer Science) نموذج ChatGPT لتوليد أزواج من جمل خاطئة وصحيحة من كتب عن الأخطاء العربية الشائعة، وراجعها لغويون. وتضم نحو 600,000 رمز (توكن)، بسبعة أنواع من الأخطاء: الإملاء، والصرف، والنحو، والدلالة، وعلامات الترقيم، والدمج، والفصل. ويقول المؤلفان إن المدوّنة متاحة للعموم؛ لكننا لم نجد رابط تنزيل نتحقق منه من ترخيصها. وهي مفيدة لأمثلة few-shot واختبارات الضغط، لكنها اصطناعية، فلا تستخدمها اختبارَ قبول.

وإن احتجت إلى خط أساس لا يعتمد على LLM، فمستودع arabic-gec من CAMeL Lab ينشر الشيفرة والنماذج من عمل Alhafni وآخرين (EMNLP 2023). وللإملاء وحده، تقترح حزمة ar-corrector كلمات من القاموس على بُعد تعديل أو تعديلين؛ لكنها لا تعالج النحو، وصدر آخر إصدار منها في 2021.

أي نموذج من BroadNet تستخدم؟

الأسعار لكل مليون رمز من صفحة أسعار BroadNet. ومخرجات التصحيح بطول المدخل تقريبًا، لذا يهم سعر الإخراج.

النموذج لماذا الإدخال / الإخراج
Qwen3.8 27B الاستدلال موثّق؛ وتذكر BroadNet اختبارات بالعربية تشمل فهم اللهجتين الخليجية والمصرية $0.175 / $2.17
GLM 5.3 الاستدلال موثّق؛ وسياق طويل لمستندات كاملة $0.78 / $3.46
DeepSeek V4.1 Flash أدنى سعر إخراج بين نماذج الاستدلال هنا؛ ومتاح أيضًا بخطط جلسات بسعر ثابت $0.175 / $0.52
Gemma 4 VL 26B يعمل على الرصيد الابتدائي $5، فتستطيع بناء خط المعالجة قبل شحن الرصيد $0.10 / $0.22

شغّل أداة القياس بكل نموذج على مجموعتك المرجعية، واختر بحسب F0.5 والسعر. وتستهلك العربية عادةً رموزًا لكل كلمة أكثر من الإنجليزية؛ الصق عينة في عدّاد الرموز العربية وقدّر الفاتورة بـحاسبة تكلفة LLM API. ولتدقيق أرشيف كبير، ليست لدى BroadNet واجهة Batch API؛ ويشرح مقال المعالجة بالجملة من دون Batch API كيف تشغّله بتزامن محدود، أو على جلسة DeepSeek بسعر $15 أسبوعيًا (طلب واحد في كل مرة لكل جلسة).

أين تناسب BroadNet Inference

BroadRouter هو موقع BroadNet نفسها. تمنحك BroadNet Inference وصولًا متوافقًا مع OpenAI إلى النماذج أعلاه، فتعمل الشيفرة مع OpenAI Python SDK بعد تغيير عنوان base URL. ليست لديها نقطة نهاية للتدقيق اللغوي، ولا تنشر معيارًا خاصًا بها لتصحيح العربية، فقِس على نصك. ويقول بيان الخصوصية لديها إن محتوى الاستدلال لا يُحتفظ به، وهذا مهم حين تدقق رسائل العملاء. وإن احتجت أداة تصحيح مستضافة ذاتيًا لحجم كبير جدًا، فقد يكون نموذج مضبوط ضبطًا دقيقًا مثل نماذج CAMeL Lab أرخص وأكثر اتساقًا؛ والنتائج المنشورة أعلاه هي سبب اختبار الخيارين معًا.

أسئلة شائعة

هل يستطيع ChatGPT أو أي نموذج LLM آخر تصحيح القواعد العربية؟

نعم، ضمن حدود. في اختبار منشور على معيار QALB-2014، بلغ GPT-4 بخمسة أمثلة 65.49 F1، قريبًا من نموذج AraT5v2 مضبوط ضبطًا دقيقًا سجّل 67.70، لكن دونه. استخدم أمرًا بأقل تعديل، وتحقق من الرد في الشيفرة، وقِس على عينة من نصك أنت.

ما أكثر الأخطاء الإملائية شيوعًا في العربية؟

الهمزة على الألف (انا بدلًا من أنا، والى بدلًا من إلى)، والألف المقصورة المكتوبة ياءً (مشي بدلًا من مشى)، والتاء المربوطة المكتوبة هاءً (المدرسه بدلًا من المدرسة)، والكلمات المفصولة أو الموصولة خطأً، مثل و قابلت بدلًا من وقابلت. ويذكر منظمو QALB الألفات المهموزة والخلط بين الألف المقصورة والياء بوصفها الأكثر شيوعًا.

هل توحيد النص العربي هو نفسه التدقيق الإملائي؟

لا. التوحيد يدمج صيغ الكتابة المختلفة عمدًا، مثل أ وا، ليتجاهلها البحث والمطابقة. أما التصحيح فيقرر أي صيغة هي الصحيحة في السياق. شغّل التصحيح على النص الأصلي، ولا توحّد إلا النسخة التي تفهرسها للبحث.

كيف أقيّم أداة تدقيق نحوي عربية؟

صحّح يدويًا من 100 إلى 200 جملة حقيقية بأقل تعديل. استخرج التعديلات على مستوى الكلمة من المصدر إلى المرجع، ومن المصدر إلى مخرجات النموذج، ثم عُدّ التعديلات المتطابقة لحساب الدقة والاستدعاء وF0.5. ويفعل M2 scorer الذي استخدمته QALB ذلك بمحاذاة أذكى للتعديلات.

هل توجد مكتبة Python للتدقيق النحوي العربي؟

للإملاء وحده، تقترح ar-corrector كلمات من القاموس على بُعد تعديل أو تعديلين. وللنحو، ينشر CAMeL Lab نماذج بحثية وشيفرة لتصحيح الأخطاء (arabic-gec). وواجهة API لنموذج LLM أسرع طريق للبدء؛ وقد يكون النموذج المضبوط ضبطًا دقيقًا أكثر اتساقًا عند الحجم الكبير.

اقرأها بصيغة Markdownاسأل ChatGPTاسأل Claudeاسأل Perplexity

المصادر