BroadRouter
Mulakan

Prompt sistem (system prompt)

Dikemas kini

Prompt sistem ialah teks arahan yang dihantar oleh aplikasi kepada model bahasa sebelum perbualan, biasanya sebagai mesej dengan peranan system atau developer. Ia menetapkan peranan, peraturan, nada dan format output model, dan model sepatutnya mengutamakannya berbanding mesej pengguna yang bercanggah.

Juga dikenali sebagai: system prompt, mesej sistem, arahan sistem, system message, developer message, system instructions, system role

Prompt sistem ialah bahagian permintaan yang tidak pernah ditaip oleh pengguna akhir. Ia memberitahu model untuk siapa ia bekerja dan bagaimana ia patut berkelakuan.

Cara ia berfungsi

Dalam format Chat Completions, messages ialah senarai objek yang mempunyai role. Objek pertama biasanya membawa arahan tetap. Dalam contoh di bawah, mesej system memberitahu model bahawa ia ejen sokongan sebuah syarikat penerbangan, perlu menjawab dalam dua ayat dan tidak boleh menyebut harga tambang; kemudian pengguna bertanya sama ada dia boleh menukar penerbangannya:

{"messages": [
  {"role": "system", "content": "You are a support agent for an airline. Answer in two sentences. Never quote fares."},
  {"role": "user", "content": "Can I change my flight?"}
]}

Rujukan API OpenAI menggambarkan mesej system dan developer sebagai “developer-provided instructions that the model should follow, regardless of messages sent by the user” (Terjemahan BroadRouter: “arahan yang diberikan oleh pembangun dan perlu dipatuhi model, tanpa mengira mesej yang dihantar pengguna”), dan menyatakan mesej developer menggantikan mesej system pada model o1 dan yang lebih baharu. Panduan teksnya meletakkan mesej developer “ahead of user messages” (Terjemahan BroadRouter: “mendahului mesej pengguna”) dari segi keutamaan. Anthropic pula menerima prompt sistem sebagai parameter system peringkat atas yang berasingan, bukan sebagai mesej, dan menyatakan bahawa satu ayat yang menetapkan peranan pun “focuses Claude’s behavior and tone” (Terjemahan BroadRouter: “memfokuskan tingkah laku dan nada Claude”).

Kandungan biasa: peranan, tugas, peraturan tegas, format output, dan kadangkala contoh (few-shot prompting).

Mengapa ia penting

  • Kos. Prompt sistem dihantar semula pada setiap panggilan sebagai token input. Prompt 2,000 token untuk 10,000 permintaan bersamaan 20 juta token.
  • Caching. Oleh sebab ia sama dan berada di awal, prompt sistem ialah awalan yang paling mudah di-cache. Letakkan data yang berubah, seperti tarikh atau nama pengguna, selepasnya. Artikel tentang struktur prompt untuk caching menunjukkan susunannya.
  • Keselamatan. Ia lapisan dasar, bukan sempadan keselamatan. Prompt injection dalam dokumen atau teks pengguna masih boleh memesongkan model.

Di BroadNet Inference

BroadNet menyediakan bentuk chat completions OpenAI, jadi mesej system diletakkan dalam messages seperti di atas. Contoh dalam dokumentasi menggunakan satu mesej pengguna sahaja dan tidak menerangkan cara setiap model mengendalikan peranan system atau developer; uji prompt anda pada model yang akan anda gunakan dalam produksi.

BroadNet melaporkan prompt_tokens_details.cached_tokens dalam usage dan membilkan token tersebut pada harga input cache. Contoh pengiraan pada DeepSeek V4.1 Flash, menggunakan 20 juta token di atas: 20 × $0.175 jika tiada yang di-cache, atau 20 × $0.0055 jika setiap bacaan mengenai cache. Kadar hit sebenar berada di antara kedua-duanya; semak cached_tokens untuk melihat kadar anda. Mula pantas curl menunjukkan permintaan pertama.

Kesilapan biasa

  • Meletakkan cap masa di bahagian atas prompt sistem. Ia berubah pada setiap panggilan dan merosakkan cache.
  • Menyimpan rahsia dalam prompt sistem. Pengguna selalunya boleh membuatkan model mengulanginya.

Soalan lazim

Apakah perbezaan antara mesej system dan mesej developer?

Kedua-duanya melakukan tugas yang sama. OpenAI menyatakan bahawa mulai model o1 dan yang lebih baharu, mesej developer menggantikan mesej system. Banyak pelayan serasi OpenAI masih menjangkakan peranan system, jadi semak yang mana diterima oleh model anda.

Bolehkah pengguna mengatasi prompt sistem?

Model dilatih untuk mengutamakannya, tetapi tidak sempurna. Prompt injection dan cubaan jailbreak cuba melakukan perkara itu, jadi kuatkuasakan peraturan tegas dalam kod juga.

Adakah prompt sistem dibilkan?

Ya. Ia ialah token input pada setiap permintaan. Jika ia kekal sama dan diletakkan di awal, penyedia yang menyokong prompt caching boleh membilkannya pada kadar cache.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity