BroadRouter
Magsimula

Prompt engineering

Na-update

Ang prompt engineering ay ang proseso ng pagsulat, pag-aayos at pag-test ng mga instruction na ibinibigay sa isang language model para palagi itong makagawa ng output na tumutugon sa mga requirement mo. Sakop nito ang mga role message, malinaw na instruction, mga example, format, at pagsukat ng resulta gamit ang mga test case.

Tinatawag ding: prompting, paggawa ng prompt, pagsulat ng prompt, prompt design, prompting techniques

Isang specification ang prompt. Ang prompt engineering ay ang mahusay na pagsulat nito at ang pag-check kung sinusunod ito ng model.

Paano ito gumagana

Ayon sa gabay ng OpenAI, ang prompt engineering ay “the process of writing effective instructions for a model” para “consistently generates content that meets your requirements.” (Salin ng BroadRouter: “ang proseso ng pagsulat ng epektibong instruction para sa isang model” para “palagi itong makabuo ng content na tumutugon sa mga requirement mo.”) Halos pareho ang mga pangunahing technique sa iba’t ibang vendor:

Technique Ano ang gagawin
Mga role Ilagay ang mga patakaran sa system prompt (o developer message) at ang request sa user message
Istruktura Ayusin ang system prompt ayon sa identity, instructions, examples, context; gumamit ng Markdown heading at XML tag para markahan ang mga seksyon
Mga example Magdagdag ng ilang pares ng input at output (few-shot prompting) na sumasakop sa iba’t ibang kaso
Reasoning Humingi ng step-by-step na pag-iisip (chain of thought), o gumamit ng reasoning model
Format ng output Humingi ng fixed na format, o gumamit ng structured output kung sinusuportahan ito ng API
Stability I-pin ang bersyon ng model para hindi magbago ang kilos nito nang hindi mo alam

Ayon sa overview ng Anthropic, magsimula sa tatlong bagay: malinaw na success criteria, paraan para i-test laban dito, at unang draft ng prompt. Sa praktika, ibig sabihin nito ay isang eval set.

Isang maikling example, bago at pagkatapos. Ang “bago” ay simpleng “ibuod ang ticket na ito”. Ang “pagkatapos” ay nagbibigay ng role (nagbubuod ng support ticket para sa engineering team), humihingi ng 3 bullet point (ang problema, ang epekto sa customer, ang susunod na hakbang), pinapagamit ang mismong salita ng customer para sa mga error message, at ipinagbabawal ang panghuhula ng sanhi:

Before: Summarize this ticket.

After:  You summarize support tickets for an engineering team.
        Write 3 bullet points: the problem, the customer impact, the next step.
        Use the customer's words for error messages. Do not guess at causes.
        <ticket>...</ticket>

Para sa mga agent, isang bahagi lang ang prompt ng mas malaking context. Pinaghihiwalay ng post ng Anthropic tungkol sa context engineering ang prompt engineering, “methods for writing and organizing LLM instructions” (Salin ng BroadRouter: “mga paraan ng pagsulat at pag-aayos ng mga instruction sa LLM”), at ang context engineering, na namamahala sa lahat ng iba pang nakikita ng model.

Bakit ito mahalaga

  • Kalidad nang walang training. Ang mas magandang prompt ang pinakamurang ayos na puwedeng subukan, bago ang fine-tuning o mas malaking model.
  • Gastos. Ipinapadala ulit ang system prompt sa bawat request. Tanggalin ang hindi nakakaapekto sa output; tingnan ang pagbabawas ng prompt token.
  • Migration. Puwedeng iba ang kilos sa ibang model ng prompt na inayos para sa isang model. Patakbuhin ulit ang eval set mo kapag lumipat ka.

Sa BroadNet Inference

Tinatanggap ng mga chat model ng BroadNet ang karaniwang messages list ng Chat Completions, kaya gumagana gaya ng dati ang system, user at assistant role at ang mga few-shot example. Puwede mong subukan ang mga prompt sa playground bago magsulat ng code. Para sa Arabic na output, tinatalakay ng Arabic prompt engineering ang register, dialect, mga numero at right-to-left na format.

Dokumentado ang structured output para sa GLM 5.3 at Qwen3.8 27B. Sa DeepSeek V4.1 Flash, GLM 5.3 at Qwen3.8 27B, kasama ang reasoning sa max_tokens, kaya kailangan din ng espasyo sa budget ang prompt na “think step by step” (mag-isip nang paisa-isang hakbang).

Mga tanong

Kailangan pa ba ang prompt engineering sa mga mas bagong model?

Oo, pero nagbabago ang mga diskarte. Mahusay nang sumunod ang mga mas bagong model sa simple at tiyak na instruction, kaya ang karamihan ng trabaho ay ang malinaw na paglalahad ng requirement, pagbibigay ng example at pag-test sa totoong input.

Kailan dapat mag-fine-tune na lang?

Kapag pumapalya pa rin sa malaking bahagi ng mga kaso ang isang prompt na maayos na na-test at may mga example, o kapag masyado itong mahaba para ipadala sa bawat request. Ayon din sa docs ng Anthropic, may mga layunin, gaya ng mas mababang latency o gastos, na mas madaling maabot sa pagpili ng ibang model.

Dapat ba akong magsulat ng prompt sa Arabic para sa Arabic na output?

Puwede ang alinman. Sabihin kung anong register o dialect ang gusto mo, at paano hahawakan ang mga numero at halo-halong text. Kinukumpara ng post tungkol sa Arabic prompt engineering ang dalawang paraan.

Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity