Để retrieval-augmented generation (RAG) chạy tốt với tiếng Ả Rập, hãy chuẩn hóa tài liệu và truy vấn theo cùng quy tắc chính tả, chia chunk theo đoạn, tìm kiếm bằng cả analyzer từ khóa tiếng Ả Rập lẫn model embedding đa ngôn ngữ, và để LLM chỉ trả lời từ các đoạn truy xuất được, có trích dẫn.
Mô hình từ bài báo RAG gốc là truy xuất rồi sinh. Phần lớn lỗi RAG tiếng Ả Rập xảy ra ở nửa đầu. Người dùng gõ “الفاتوره” mà index lại chứa “الفاتورة”; chính sách ghi “إلغاء” còn người dùng viết “الغاء”; model embedding thì học chủ yếu bằng tiếng Anh. Sửa được phần truy xuất thì phần LLM thường tự ổn.
Pipeline RAG tiếng Ả Rập trông như thế nào?
- Trích xuất văn bản từ PDF, trang web và bài trong help center. Với PDF tiếng Ả Rập dạng scan, xem OCR tiếng Ả Rập và LLM vision.
- Chuẩn hóa một bản sao văn bản để index.
- Chia chunk theo cấu trúc: tiêu đề và đoạn văn.
- Index hai lần: một index từ khóa và một index vector.
- Truy xuất bằng truy vấn đã chuẩn hóa từ cả hai, gộp và xếp hạng lại.
- Sinh câu trả lời từ các đoạn đứng đầu, có trích dẫn.
Nên chuẩn hóa văn bản tiếng Ả Rập cho tìm kiếm như thế nào?
Tiếng Ả Rập cho phép nhiều cách viết cùng một từ, và người dùng hiếm khi gõ dấu phụ hay hamza nhất quán. Hãy chuẩn hóa bản index và mọi truy vấn bằng cùng một hàm:
| Quy tắc | Ký tự | Vì sao |
|---|---|---|
| Thống nhất alef | أ إ آ ٱ → ا | Hamza thường bị bỏ khi gõ |
| Alef maqsura | ى → ي | Phổ biến khi gõ kiểu Ai Cập và viết lỏng |
| Ta marbuta | ة → ه | Người dùng gõ ه ở cuối từ |
| Bỏ dấu phụ | U+064B đến U+0652, U+0670 | Phần lớn văn bản và truy vấn không có nguyên âm |
| Bỏ tatweel | ـ (U+0640) | Ký tự kéo dài để trang trí |
| Chữ số | ٠–٩ → 0–9 | Khớp số ở cả hai dạng |
Thử từng tùy chọn trên văn bản của bạn với công cụ chuẩn hóa văn bản tiếng Ả Rập, công cụ này cũng viết sẵn một hàm Python tương ứng.
import re
_DIAC = re.compile(r"[ً-ْٰ]")
def normalise(text: str) -> str:
text = _DIAC.sub("", text).replace("ـ", "")
text = re.sub("[أإآٱ]", "ا", text)
text = text.replace("ى", "ي").replace("ة", "ه")
return text.translate(str.maketrans("٠١٢٣٤٥٦٧٨٩", "0123456789"))
Các code point có trong bảng mã Unicode tiếng Ả Rập. Hai lưu ý:
- Đừng bao giờ hiển thị văn bản đã chuẩn hóa. Lưu bản gốc bên cạnh và dùng bản gốc để hiển thị, trích dẫn và gửi cho LLM. Tiếng Ả Rập đã chuẩn hóa trông như viết sai chính tả với người đọc.
- Một số phép gộp làm mất nghĩa. ة → ه gộp vài cặp từ, và ى → ي gộp “على” (trên) với “علي” (Ali). Vì recall của tìm kiếm, đánh đổi này thường đáng; hãy test trên truy vấn của bạn.
Các quy tắc này cũng là trọng tâm khi đo độ chính xác nhận dạng giọng nói tiếng Ả Rập, nên bạn có thể dùng chung một hàm trên toàn hệ thống.
Nên chia chunk tài liệu tiếng Ả Rập như thế nào?
- Cắt theo cấu trúc. Tiêu đề, các điều khoản đánh số trong hợp đồng (المادة ١، المادة ٢) và ngắt đoạn là ranh giới tự nhiên.
- Vài trăm từ mỗi chunk, chồng lấn một hai câu. Từ tiếng Ả Rập mang nhiều hình vị hơn từ tiếng Anh, nên một chunk chứa nhiều nghĩa trên mỗi từ hơn độ dài của nó gợi ý.
- Ranh giới câu: chỉ cắt theo . ؟ ! và dấu phẩy tiếng Ả Rập ، khi không còn cách nào khác. Nhiều văn bản tiếng Ả Rập dùng câu dài nối bằng و, nên cắt theo đoạn an toàn hơn.
- Mang theo ngữ cảnh. Thêm tiêu đề tài liệu và tiêu đề mục bằng tiếng Ả Rập vào đầu mỗi chunk, để một chunk ghi “تُطبَّق هذه الرسوم” (các khoản phí này được áp dụng) vẫn cho biết là phí nào.
Máy tính chia chunk RAG đổi kích thước chunk, độ chồng lấn và top-k thành số chunk, số token mỗi truy vấn và chi phí hằng tháng.
Vì sao nên kết hợp tìm kiếm từ khóa và embedding?
Tìm kiếm từ khóa
Hình thái học tiếng Ả Rập đánh bại việc so khớp từ khóa ngây thơ: كتاب, الكتاب, بالكتاب, وكتابه và كتب đều liên quan đến “sách”. Hãy dùng analyzer xử lý được tiếng Ả Rập. Elasticsearch có sẵn arabic language analyzer nối chuỗi stop word tiếng Ả Rập, chuẩn hóa chữ số, chuẩn hóa tiếng Ả Rập và stemmer tiếng Ả Rập, nên các dạng có tiền tố như الكتاب và وكتاب khớp thường xuyên hơn. Hãy kiểm tra nó gộp những gì trên từ vựng của bạn trước khi dựa vào nó.
Embedding
Model embedding ánh xạ văn bản thành vector để các đoạn có nghĩa giống nhau nằm gần nhau, kể cả khi không chung từ nào. Với tiếng Ả Rập, hãy chọn model đa ngôn ngữ và test nó:
- Ưu tiên model huấn luyện trên nhiều ngôn ngữ, như BGE M3, được tác giả mô tả là hỗ trợ hơn 100 ngôn ngữ làm việc. Model chỉ tiếng Anh cho vector tiếng Ả Rập kém.
- Test truy xuất khác ngôn ngữ nếu người dùng hỏi bằng tiếng Anh về tài liệu tiếng Ả Rập, hoặc ngược lại.
- Embed bản gốc hay bản chuẩn hóa đều được, nhưng phải nhất quán giữa tài liệu và truy vấn. Test cả hai; kết quả khác nhau tùy model.
BroadNet Inference không có endpoint embedding: các endpoint được ghi trong tài liệu là chat completions và chép lời âm thanh. Hãy dùng nhà cung cấp embedding bạn tin tưởng, hoặc tự host một model embedding đa ngôn ngữ mở trong cơ sở dữ liệu vector, và dùng BroadNet cho bước sinh. Máy tính chi phí embedding tính giá index và truy vấn giữa các nhà cung cấp.
Gộp và xếp hạng lại
Chạy cả hai tìm kiếm, gộp kết quả bằng reciprocal rank fusion (chấm mỗi tài liệu bằng tổng 1 / (k + thứ hạng) trên các danh sách), và giữ 10 đến 30 đoạn đầu. Reranker hoặc một bước LLM kiểm tra độ liên quan nhanh có thể lọc thêm, nhưng với model context dài bạn thường bỏ qua được.
Sinh câu trả lời có trích dẫn như thế nào?
Đưa cho model các đoạn có id và yêu cầu chỉ trả lời từ chúng:
import os
from openai import OpenAI
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
def answer(question: str, passages: list[dict]) -> str:
context = "\n\n".join(f"[{p['id']}] {p['title']}\n{p['text']}" for p in passages)
system = ("أجب عن سؤال المستخدم بالعربية الفصحى المبسطة، اعتماداً فقط على المقاطع المرفقة. "
"اذكر رقم المقطع بين قوسين مربعين بعد كل معلومة. "
"إذا لم تجد الإجابة في المقاطع فقل ذلك بوضوح.")
r = client.chat.completions.create(
model="broadnet/deepseek-v4.1-flash",
max_tokens=4000,
messages=[{"role": "system", "content": system},
{"role": "user", "content": f"المقاطع:\n{context}\n\nالسؤال: {question}"}],
)
return r.choices[0].message.content
System prompt tiếng Ả Rập có nghĩa: “Trả lời câu hỏi của người dùng bằng tiếng Ả Rập chuẩn hiện đại đơn giản, chỉ dựa trên các đoạn đính kèm. Ghi số đoạn trong ngoặc vuông sau mỗi thông tin. Nếu không tìm thấy câu trả lời trong các đoạn, hãy nói rõ điều đó.” Chỉ dẫn bằng tiếng Anh cũng chạy tốt như vậy; điều quan trọng là quy tắc chỉ trả lời từ các đoạn và có trích dẫn.
Đặt các đoạn trước câu hỏi. Nếu cùng tài liệu xuất hiện trong nhiều request, hãy giữ chúng theo cùng thứ tự ở đầu prompt để được tính giá input cache; xem token input được cache.
Model nào?
| Model | Context | Vì sao |
|---|---|---|
| DeepSeek V4.1 Flash | 1.048.576 | Giá input cache thấp nhất trong ba model này trên BroadNet ($0.0055 mỗi 1 triệu token), đủ chỗ cho nhiều đoạn, có gói giá cố định |
| GLM 5.3 | 1.048.576 | Tool calling và structured output cho truy xuất kiểu agent |
| Qwen3.8 27B | 262.144 | BroadNet đã test bằng tiếng Ả Rập: viết trôi chảy, hiểu phương ngữ vùng Vịnh và Ai Cập |
Với context một triệu token, bạn có thể truy xuất rộng tay, chẳng hạn 50 đoạn thay vì 5, và để model tự chọn. Điều đó giảm thiệt hại khi bước truy xuất xếp đoạn đúng ở vị trí thứ 12. Với bộ tài liệu nhỏ, có khi bạn không cần truy xuất; xem context dài và RAG và kiểm tra kho văn bản của bạn có vừa không bằng máy tính context window. Giá của mọi model có trên trang giá.
Đánh giá RAG tiếng Ả Rập như thế nào?
- Viết 50 đến 100 câu hỏi thật, pha trộn MSA, phương ngữ và tiếng Anh đúng như người dùng của bạn gõ.
- Đánh dấu đoạn trả lời cho mỗi câu.
- Đo truy xuất trước: đoạn đúng có nằm trong top 10 không? So sánh chỉ từ khóa, chỉ embedding và hybrid, có và không có chuẩn hóa.
- Sau đó đo câu trả lời: đúng, có trích dẫn, và nói “không tìm thấy” khi không có câu trả lời.
- Cố ý đưa vào truy vấn sai chính tả và truy vấn phương ngữ. Người dùng viết “وين الفاتوره” (vùng Vịnh/Levant: hóa đơn đâu rồi), không phải “أين الفاتورة”.
Sửa phần truy xuất trước khi đổi model sinh: nếu đoạn đúng không bao giờ vào được prompt thì không model nào trích dẫn được nó.

