Một prompt là một bản đặc tả. Prompt engineering là viết bản đặc tả đó cho tốt và kiểm tra model có làm theo hay không.
Cách hoạt động
Hướng dẫn của OpenAI định nghĩa prompt engineering là “the process of writing effective instructions for a model” (Bản dịch: quá trình viết chỉ dẫn hiệu quả cho model) để nó “consistently generates content that meets your requirements.” (Bản dịch: luôn tạo ra nội dung đáp ứng yêu cầu của bạn). Các kỹ thuật cốt lõi giống nhau giữa các nhà cung cấp:
| Kỹ thuật | Cách làm |
|---|---|
| Vai trò | Đặt quy tắc trong system prompt (hoặc developer message) và yêu cầu trong user message |
| Cấu trúc | Sắp xếp system prompt theo thứ tự danh tính, chỉ dẫn, ví dụ, context; dùng tiêu đề Markdown và thẻ XML để đánh dấu các phần |
| Ví dụ | Thêm vài cặp đầu vào và đầu ra (few-shot prompting) bao quát các trường hợp khác nhau |
| Suy luận | Yêu cầu suy nghĩ từng bước (chain of thought), hoặc dùng model suy luận |
| Định dạng đầu ra | Yêu cầu một định dạng cố định, hoặc dùng đầu ra có cấu trúc nếu API hỗ trợ |
| Ổn định | Cố định phiên bản model để hành vi không tự thay đổi |
Phần tổng quan của Anthropic khuyên bắt đầu với ba thứ: tiêu chí thành công rõ ràng, cách kiểm thử theo tiêu chí đó, và một bản nháp prompt đầu tiên. Trên thực tế, điều đó nghĩa là một bộ eval.
Một ví dụ ngắn, trước và sau:
Before: Summarize this ticket.
After: You summarize support tickets for an engineering team.
Write 3 bullet points: the problem, the customer impact, the next step.
Use the customer's words for error messages. Do not guess at causes.
<ticket>...</ticket>
Bản “After” giao vai trò tóm tắt ticket cho đội kỹ thuật, yêu cầu ba gạch đầu dòng (vấn đề, ảnh hưởng tới khách hàng, bước tiếp theo), giữ nguyên lời khách hàng cho thông báo lỗi và không đoán nguyên nhân.
Với agent, prompt chỉ là một phần của context lớn hơn. Bài viết về context engineering của Anthropic tách prompt engineering, tức “methods for writing and organizing LLM instructions,” (Bản dịch: phương pháp viết và sắp xếp chỉ dẫn cho LLM) khỏi context engineering, phần quản lý mọi thứ khác mà model nhìn thấy.
Vì sao quan trọng
- Chất lượng mà không cần huấn luyện. Một prompt tốt hơn là cách sửa rẻ nhất để thử, trước khi fine-tuning hoặc dùng model lớn hơn.
- Chi phí. System prompt được gửi lại trong mọi request. Hãy cắt những gì không làm thay đổi đầu ra; xem giảm token trong prompt.
- Chuyển đổi model. Một prompt tinh chỉnh cho model này có thể hoạt động khác trên model khác. Hãy chạy lại bộ eval khi đổi model.
Trên BroadNet Inference
Các model chat của BroadNet nhận danh sách messages chuẩn của Chat Completions, nên vai trò system, user, assistant và ví dụ few-shot hoạt động như bình thường. Bạn có thể thử prompt trong playground trước khi viết code. Với đầu ra tiếng Ả Rập, bài prompt engineering cho tiếng Ả Rập đề cập văn phong, phương ngữ, chữ số và định dạng từ phải sang trái.
Đầu ra có cấu trúc được ghi trong tài liệu cho GLM 5.3 và Qwen3.8 27B. Trên DeepSeek V4.1 Flash, GLM 5.3 và Qwen3.8 27B, suy luận được tính vào max_tokens, nên prompt kiểu “hãy suy nghĩ từng bước” cũng cần chỗ trong ngân sách.