Prompt adalah sebuah spesifikasi. Prompt engineering berarti menulisnya dengan baik dan memeriksa apakah model mengikutinya.
Cara kerjanya
Panduan OpenAI mendefinisikan prompt engineering sebagai “the process of writing effective instructions for a model” (terjemahan: proses menulis instruksi yang efektif untuk model) agar model “consistently generates content that meets your requirements” (terjemahan: konsisten menghasilkan konten yang memenuhi kebutuhan Anda). Teknik intinya mirip di berbagai vendor:
| Teknik | Yang dilakukan |
|---|---|
| Peran | Taruh aturan di system prompt (atau pesan developer) dan permintaan di pesan user |
| Struktur | Susun system prompt dengan urutan identitas, instruksi, contoh, konteks; pakai heading Markdown dan tag XML untuk menandai bagian |
| Contoh | Tambahkan beberapa pasangan input dan output (few-shot prompting) yang mencakup kasus berbeda |
| Penalaran | Minta pemikiran langkah demi langkah (chain of thought), atau gunakan model penalaran |
| Format output | Minta format yang tetap, atau gunakan output terstruktur jika API mendukungnya |
| Stabilitas | Kunci versi model agar perilakunya tidak berubah tanpa Anda sadari |
Ikhtisar Anthropic menyarankan memulai dengan tiga hal: kriteria keberhasilan yang jelas, cara mengujinya, dan draf prompt pertama. Dalam praktiknya, itu berarti satu set eval.
Contoh singkat, sebelum dan sesudah:
Before: Summarize this ticket.
After: You summarize support tickets for an engineering team.
Write 3 bullet points: the problem, the customer impact, the next step.
Use the customer's words for error messages. Do not guess at causes.
<ticket>...</ticket>
(Sebelum: “Ringkas tiket ini.” Sesudah: model meringkas tiket dukungan untuk tim engineering dalam 3 poin, yaitu masalahnya, dampaknya bagi pelanggan, dan langkah berikutnya; memakai kata-kata pelanggan untuk pesan error; dan tidak menebak penyebab.)
Untuk agen, prompt hanyalah satu bagian dari konteks yang lebih besar. Tulisan Anthropic tentang context engineering memisahkan prompt engineering, “methods for writing and organizing LLM instructions” (terjemahan: metode untuk menulis dan menata instruksi LLM), dari context engineering, yang mengelola semua hal lain yang dilihat model.
Kenapa ini penting
- Kualitas tanpa pelatihan. Prompt yang lebih baik adalah perbaikan termurah untuk dicoba, sebelum fine-tuning atau model yang lebih besar.
- Biaya. System prompt dikirim ulang di setiap permintaan. Buang bagian yang tidak mengubah output; lihat mengurangi token prompt.
- Migrasi. Prompt yang disetel untuk satu model bisa berperilaku berbeda di model lain. Jalankan ulang set eval Anda saat berganti model.
Di BroadNet Inference
Model chat BroadNet menerima daftar messages Chat Completions standar, jadi peran system, user, dan assistant serta contoh few-shot berfungsi seperti biasa. Anda bisa mencoba prompt di playground sebelum menulis kode. Untuk output bahasa Arab, prompt engineering bahasa Arab membahas ragam bahasa, dialek, angka, dan format kanan-ke-kiri.
Output terstruktur didokumentasikan untuk GLM 5.3 dan Qwen3.8 27B. Pada DeepSeek V4.1 Flash, GLM 5.3, dan Qwen3.8 27B, penalaran ikut dihitung dalam max_tokens, jadi prompt “pikirkan langkah demi langkah” juga butuh ruang di anggaran.