BroadRouter

خلیجی، مصری اور شامی عربی: LLMs لہجوں کو کیسے سنبھالتے ہیں

BroadNet Inference ٹیم · 6 منٹ کی پڑھائی · شائع شدہ

LLMs عربی لہجوں کو غیر یکساں طور پر سنبھالتے ہیں: وہ عموماً مصری اور خلیجی عربی کو لکھنے سے بہتر سمجھتے ہیں، اور کم عام لہجوں پر معیار گرتا ہے۔ سمجھ اور تحریر کو اپنے پیغامات پر الگ الگ ٹیسٹ کریں۔ BroadNet کے اپنے ٹیسٹس میں Qwen3.8 27B نے خلیجی اور مصری لہجے سمجھے اور رواں عربی لکھی۔ اس کی قیمت فی دس لاکھ ان پٹ ٹوکن $0.175 ہے۔

LLMs عموماً خلیجی اور مصری عربی کو لکھنے سے بہتر سمجھتے ہیں، اور کم عام لہجوں پر برا کرتے ہیں۔ ریاض، قاہرہ اور بیروت کا ایک ایک گاہک “آپ کو کیا چاہیے؟” تین مختلف جملوں میں پوچھ سکتا ہے، اور جدید معیاری عربی (MSA) کو اچھی طرح سنبھالنے والا ماڈل بھی انہیں غلط پڑھ سکتا ہے۔ سمجھ اور تحریر کو الگ الگ ٹیسٹ کریں۔

یہ پوسٹ بتاتی ہے کہ بڑے لہجہ گروپس کے درمیان کیا بدلتا ہے، LLMs کہاں ناکام ہوتے ہیں، اور اصل گاہکوں کے ساتھ بھروسہ کرنے سے پہلے ماڈل کو کیسے ٹیسٹ کریں۔

لہجے اصل میں کتنے مختلف ہیں؟

روزمرہ کے الفاظ میں بہت مختلف، رسمی ذخیرۂ الفاظ میں کافی قریب۔ تحقیقی corpora پیمانہ دکھاتے ہیں: MADAR corpus نے سفر کے ایک جیسے جملوں کا 25 عرب شہروں کے لہجوں میں ترجمہ کیا۔ جدول چند عام جملے دکھاتا ہے۔ MSA کالم وہ ہے جو درسی کتاب چھاپے گی؛ باقی بول چال اور پیغامات کی عام شکلیں ہیں۔ املا شخص در شخص بدلتی ہے، جو مسئلے کا حصہ ہے۔

معنی MSA خلیجی (سعودی / اماراتی) مصری شامی
آپ کو کیا چاہیے؟ ماذا تريد؟ وش تبي؟ / شو تبي؟ عايز إيه؟ شو بدّك؟
آپ کیسے ہیں؟ كيف حالك؟ شلونك؟ إزيك؟ كيفك؟
ابھی الآن الحين دلوقتي هلّق
مجھے نہیں پتا لا أعرف ما أدري مش عارف ما بعرف
بہت / زیادہ جداً وايد أوي كتير

LLMs کے لیے تین پیٹرن اہم ہیں:

  • Function words بدلتے ہیں۔ سوالیہ الفاظ، نفی اور “چاہنا” لہجوں کے درمیان مکمل طور پر مختلف ہیں۔ یہ مختصر، بار بار آنے والے الفاظ جملے کا مطلب طے کرتے ہیں، اس لیے ایک کو غلط پڑھنے سے ارادہ الٹ جاتا ہے۔
  • املا معیاری نہیں۔ لہجے زیادہ تر بولے جاتے ہیں، اس لیے لوگ انہیں ویسے لکھتے ہیں جیسے سنائی دیتے ہیں۔ ایک ہی لفظ مختلف حروف کے ساتھ، ہمزہ کے ساتھ یا بغیر، یا لاطینی رسم الخط میں (Arabizi) نظر آ سکتا ہے۔
  • Code-switching معمول ہے۔ خلیجی کاروباری پیغامات میں انگریزی پروڈکٹ نام ملے ہوتے ہیں؛ شامی اور مغربی بولنے والے فرانسیسی ملاتے ہیں۔ ماڈل کو ایک جملے میں دونوں رسم الخط سنبھالنے ہوتے ہیں۔

LLMs عربی لہجوں پر کہاں ناکام ہوتے ہیں؟

ماڈلز جو متن دیکھتے ہیں اسی سے سیکھتے ہیں، اور اماراتی یا سوڈانی جیسے چھوٹے لہجوں کا عوامی متن جدید معیاری عربی سے بہت کم ہے۔ عملی طور پر یہ چند بار بار ہونے والی غلطیوں کی شکل میں سامنے آتا ہے:

  1. لہجے کے لفظ کو کسی دوسرے MSA لفظ کے طور پر پڑھنا۔ خلیجی “أبي” (مجھے چاہیے) MSA کے “أبي” (میرے والد) جیسا دکھتا ہے۔ سیاق عموماً اسے حل کر دیتا ہے، لیکن چھوٹے ماڈلز کبھی کبھی نہیں۔
  2. غلط ارادے کا جواب دینا۔ “الطلب لسه موصلش” (آرڈر ابھی تک نہیں پہنچا) جیسی مختصر مصری شکایت کے لیے ماڈل کو جاننا ہوگا کہ “لسه” کا مطلب “ابھی تک” ہے اور “موصلش” منفی فعل ہے۔
  3. ملا جلا لہجہ لکھنا۔ “خلیجی عربی میں” جواب دینے کو کہنے پر کمزور ماڈلز مصری، شامی اور MSA کا ایسا مرکب بناتے ہیں جو کوئی مقامی بولنے والا نہیں لکھے گا۔ یہ غلط سمجھنے سے زیادہ عام ہے۔
  4. ضرورت سے زیادہ درستی۔ جب آپ گاہک کے لہجے کا اقتباس مانگتے ہیں، تب کچھ ماڈلز اسے MSA میں “ٹھیک” کر دیتے ہیں، جس سے extraction کے کام ٹوٹتے ہیں۔

عام اصول: ماڈلز لہجوں کو لکھنے سے بہتر سمجھتے ہیں۔ اپنی پروڈکٹ کی منصوبہ بندی اسی کے گرد کریں۔

BroadNet نے عربی لہجوں پر کیا ٹیسٹ کیا ہے؟

BroadNet اپنے قیمتوں کے صفحے پر اپنی عربی جانچ شائع کرتا ہے۔ Qwen3.8 27B کے لیے یہ رپورٹ کرتا ہے:

  • رواں عربی تحریر،
  • خلیجی اور مصری لہجوں کی سمجھ،
  • درست عربی–انگریزی ترجمہ۔

BroadNet یہی کہتا ہے، اس سے زیادہ کچھ نہیں۔ یہ شامی، عراقی یا مغربی لہجے کا کوئی نتیجہ شائع نہیں کرتا، اور لہجہ لکھنے کا کوئی اسکور بھی نہیں۔ اگر شامی گاہک آپ کے لیے اہم ہیں تو نیچے کے طریقے سے انہیں خود ٹیسٹ کریں۔

Qwen3.8 27B متن اور تصاویر لیتا ہے، tools اور structured output سپورٹ کرتا ہے، جواب سے پہلے ریزننگ کرتا ہے اور اس کا کانٹیکسٹ 262,144 ٹوکن ہے۔ فی دس لاکھ ٹوکن اس کی قیمت ان پٹ کے لیے $0.175 اور آؤٹ پٹ کے لیے $2.17 ہے۔ دوسرے چیٹ ماڈلز کا موازنہ قیمتوں کے صفحے پر کریں، اور وسیع تر چیک لسٹ کے لیے، جو تحریر، ترجمہ اور دستاویزات بھی شامل کرتی ہے، عربی کے لیے LLM API چننا دیکھیں۔

کسی خاص لہجے کے لیے LLM کو پرامپٹ کیسے کریں؟

بتائیں کہ آپ کس لہجے کی توقع رکھتے ہیں، جواب کس میں چاہیے اور کتنا رسمی ہونا ہے۔ سعودی ریٹیل ان باکس کے لیے اچھا کام کرنے والا system پرامپٹ:

import os
from openai import OpenAI

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])

system = (
    "You are a customer-service assistant for a Saudi online store. "
    "Customers write in Gulf Arabic (often Saudi), MSA, English or Arabizi. "
    "Understand all of them. Reply in simple, polite Modern Standard Arabic, "
    "in two or three short sentences. If the customer writes in English, reply in English. "
    "Never invent order details."
)

response = client.chat.completions.create(
    model="broadnet/qwen3.8-27b",
    max_tokens=2000,  # the model reasons first; leave room for the answer
    messages=[
        {"role": "system", "content": system},
        {"role": "user", "content": "السلام عليكم، طلبي للحين ما وصل، وش السالفة؟"},
    ],
)
print(response.choices[0].message.content)

گاہک کا پیغام خلیجی عربی میں ہے: “السلام علیکم، میرا آرڈر ابھی تک نہیں پہنچا، کیا معاملہ ہے؟” “للحين” (ابھی تک) اور “وش السالفة” (کیا قصہ ہے / کیا ہو رہا ہے) خلیجی شکلیں ہیں۔ اچھا جواب MSA میں تاخیر تسلیم کرتا ہے اور آرڈر نمبر مانگتا ہے۔

پرامپٹ کی چند اور عادتیں جو مدد کرتی ہیں:

  • صرف خطہ نہیں، ملک کا نام لیں۔ “خلیجی عربی” میں سعودی، اماراتی، کویتی، قطری، بحرینی اور عمانی بولی آتی ہے، جو مختلف ہیں۔ اگر آپ مارکیٹ جانتے ہیں تو بتائیں۔
  • Extraction کے کاموں میں لہجے کا لیبل مانگیں۔ routing یا analytics کے لیے ماڈل سے structured output کے ذریعے {"dialect": "gulf" | "egyptian" | "levantine" | "msa" | "other", "intent": ...} لوٹوائیں۔ یہ جاننے کا سستا طریقہ ہے کہ آپ کے گاہک کون ہیں۔
  • ہدایات ایک ہی زبان میں رکھیں۔ عربی مواد کے ساتھ انگریزی ہدایات زیادہ تر ماڈلز پر اچھا کام کرتی ہیں۔ عربی ہدایات بھی کام کرتی ہیں؛ ایک system پرامپٹ میں دونوں ملانے سے انداز دھندلا پڑتا ہے۔ اس پر مزید عربی پرامپٹ انجینئرنگ میں۔

کیا لہجے میں جواب دینا چاہیے بھی؟

زیادہ تر کاروباروں کے لیے نہیں۔ سادہ MSA (جسے کبھی “سفید” یا غیر جانبدار عربی کہتے ہیں) ہر عربی قاری سمجھتا ہے، پروفیشنل لگتی ہے اور ایسے جواب کا خطرہ ٹالتی ہے جو غلط ملک کا لگے۔ لہجے میں جوابات غیر رسمی برانڈز، ایک مارکیٹ کے لیے لکھی گئی مارکیٹنگ کاپی، اور ان وائس پروڈکٹس کے لیے معنی رکھتے ہیں جہاں MSA اکڑی ہوئی لگتی ہے۔ اگر آپ یہ راستہ چنتے ہیں تو ہر ہفتے اسی لہجے کے مقامی بولنے والوں سے آؤٹ پٹ کے ایک نمونے کا جائزہ لیں۔

ایک دن میں لہجہ سنبھالنے کی صلاحیت کیسے ٹیسٹ کریں؟

  1. اصل پیغامات جمع کریں۔ اپنے ان باکس، چیٹ logs یا ٹرانسکرائب شدہ وائس نوٹس سے ہر لہجے کے 30 سے 50 گمنام پیغامات لیں۔ نام، فون نمبر اور آرڈر نمبر ہٹا دیں۔
  2. ارادے کا لیبل لگائیں۔ ہر پیغام کے لیے درست ارادہ اور وہ حقائق لکھیں جو ماڈل کو نکالنے چاہییں (آرڈر نمبر، پروڈکٹ، تاریخ)۔
  3. سمجھ ٹیسٹ کریں۔ ہر امیدوار ماڈل سے ارادہ اور فیلڈز JSON میں لوٹانے کو کہیں۔ exact matches اسکور کریں۔ یہی نمبر طے کرتا ہے کہ routing کام کرتی ہے یا نہیں۔
  4. تحریر ٹیسٹ کریں۔ ہر لہجے کے دس پیغامات کے لیے جواب مانگیں۔ کسی مقامی بولنے والے سے ہر جواب کو درستگی، لہجے اور فطری پن پر 1–3 گریڈ دلوائیں۔ جو لہجہ آپ نہیں بولتے، اسے گریڈ نہ کریں۔
  5. لاگت اور رفتار جانچیں۔ ہر کال کے لیے usage.prompt_tokens، usage.completion_tokens اور latency درج کریں۔ لہجے والا متن MSA سے مختلف طرح tokenise ہو سکتا ہے، اس لیے اندازہ نہیں، پیمائش کریں؛ مفت عربی ٹوکن کاؤنٹر جلدی پہلا اندازہ دیتا ہے۔
  6. ہر ماڈل کے لیے دہرائیں۔ وہی سیٹ Qwen3.8 27B، DeepSeek V4.1 Flash اور GLM 5.3 پر چلائیں۔ تینوں ایک ہی OpenAI-compatible API استعمال کرتے ہیں، اس لیے صرف model id بدلتی ہے۔

Qwen3.8 27B، DeepSeek V4.1 Flash اور GLM 5.3 ٹاپ اپ کے بعد کام کرتے ہیں؛ چیٹ ماڈلز میں مفت $5 کا ابتدائی کریڈٹ صرف BroadNet Gemma 4 VL 26B کا احاطہ کرتا ہے، جسے کم لاگت والی بنیاد کے طور پر شامل کرنا فائدہ مند ہے۔ اکثر ایک مفید نتیجہ تقسیم شدہ سیٹ اپ ہوتا ہے: سمجھ اور routing کے لیے ایک ماڈل، اور جوابات MSA میں مسودہ کیے ہوئے۔

وائس نوٹس میں لہجے کا کیا؟

اگر آپ کے گاہک وائس نوٹس بھیجتے ہیں تو لہجہ سنبھالنا پہلے، speech to text میں شروع ہوتا ہے۔ ٹرانسکرپشن ماڈل LLM تک پہنچنے سے پہلے ہی لہجے کا لفظ غلط سن سکتا ہے۔ BroadNet، BroadNet Transcribe Arabic کے لیے لہجے پر 23.4 کا word error rate رپورٹ کرتا ہے، جبکہ FLEURS کی پڑھی گئی آواز پر 3.8؛ ان نمبروں کا مطلب عربی WER، آسان الفاظ میں میں دیکھیں۔ ہر حصے کو اکیلے نہیں، پوری زنجیر کو ٹیسٹ کریں، وائس نوٹ سے جواب تک۔

عام سوالات

کیا میرا chatbot گاہک کے لہجے میں جواب دے؟

ڈیفالٹ طور پر عموماً نہیں۔ سادہ جدید معیاری عربی ہر جگہ سمجھی جاتی ہے اور پروفیشنل لگتی ہے۔ لہجے میں جوابات صرف وہیں استعمال کریں جہاں آپ کے برانڈ کی آواز یہ مانگے، اور صرف تب جب مقامی بولنے والوں نے آؤٹ پٹ کا جائزہ لے لیا ہو۔

BroadNet نے عربی لہجوں پر کون سا BroadNet ماڈل ٹیسٹ کیا؟

Qwen3.8 27B۔ BroadNet رواں عربی تحریر، خلیجی اور مصری لہجوں کی سمجھ، اور درست عربی–انگریزی ترجمہ رپورٹ کرتا ہے۔ اس نے شامی یا مغربی لہجے کا کوئی نتیجہ شائع نہیں کیا۔

ہر لہجے کے لیے کتنے ٹیسٹ پیغامات چاہییں؟

ہر لہجے کے تیس سے پچاس اصل پیغامات ماڈلز کے درمیان واضح فرق دیکھنے کے لیے کافی ہیں۔ جس لہجے کو آپ کے زیادہ تر گاہک استعمال کرتے ہیں، اس کے لیے مزید شامل کریں۔

کیا لہجے والے پیغامات زیادہ ٹوکن لیتے ہیں؟

ممکن ہے۔ ٹوکنز کی تعداد ٹوکنائزر اور املا پر منحصر ہے، اور لہجے والے متن میں اکثر غیر معیاری املا ہوتی ہے۔ اندازہ لگانے کے بجائے نمونے ٹوکن کاؤنٹر میں پیسٹ کریں اور اپنے پیغامات پر prompt_tokens سے تصدیق کریں۔

کیا LLM مصری عربی سمجھ سکتا ہے؟

اکثر، لیکن اپنے پیغامات پر جانچیں۔ BroadNet رپورٹ کرتا ہے کہ اس کے ٹیسٹس میں Qwen3.8 27B نے مصری اور خلیجی عربی سمجھی؛ دوسرے ماڈلز مختلف ہیں۔ لہجہ لکھنا عموماً پڑھنے سے کم قابلِ بھروسہ ہے، اس لیے 30 سے 50 اصل پیغامات پر ارادے کی درستگی اور جواب کا معیار الگ الگ اسکور کریں۔

Markdown میں پڑھیںChatGPT سے پوچھیںClaude سے پوچھیںPerplexity سے پوچھیں