Der System-Prompt ist der Teil einer Anfrage, den der Endnutzer nie tippt. Er sagt dem Modell, für wen es arbeitet und wie es sich verhalten soll.
So funktioniert es
Im Format von Chat Completions ist messages eine Liste von Objekten mit einer role. Das erste enthält meist die festen Anweisungen:
{"messages": [
{"role": "system", "content": "You are a support agent for an airline. Answer in two sentences. Never quote fares."},
{"role": "user", "content": "Can I change my flight?"}
]}
Die API-Referenz von OpenAI beschreibt Messages mit system und developer beide als „developer-provided instructions that the model should follow, regardless of messages sent by the user“ (Übersetzung: „vom Entwickler bereitgestellte Anweisungen, denen das Modell folgen soll, unabhängig von den Nachrichten des Nutzers“) und sagt, dass Developer-Messages ab o1 die System-Messages ersetzen. Der Text-Leitfaden stellt Developer-Messages in der Priorität „ahead of user messages“ (Übersetzung: „vor Nutzernachrichten“). Anthropic nimmt den System-Prompt nicht als Nachricht, sondern als eigenen Parameter system auf oberster Ebene entgegen und merkt an, dass schon ein einziger Satz, der eine Rolle festlegt, „focuses Claude’s behavior and tone“ (Übersetzung: „Verhalten und Ton von Claude fokussiert“).
Typischer Inhalt: eine Rolle, die Aufgabe, harte Regeln, das Ausgabeformat und manchmal Beispiele (Few-Shot-Prompting).
Warum es wichtig ist
- Kosten. Der System-Prompt wird bei jedem Aufruf erneut als Input-Tokens gesendet. Ein Prompt mit 2.000 Tokens ergibt bei 10.000 Anfragen 20 Millionen Tokens.
- Caching. Weil er identisch ist und am Anfang steht, ist der System-Prompt das am leichtesten cachebare Präfix. Setzen Sie wechselnde Daten wie Datum oder Nutzernamen dahinter. Der Beitrag zur Prompt-Struktur für Caching zeigt die Reihenfolge.
- Sicherheit. Er ist eine Richtlinienebene, keine Sicherheitsgrenze. Prompt Injection in Dokumenten oder Nutzertext kann das Modell trotzdem vom Kurs abbringen.
Bei BroadNet Inference
BroadNet nutzt das Chat-Completions-Format von OpenAI, eine System-Message gehört also wie oben in messages. Die Beispiele in der Dokumentation verwenden eine einzelne User-Message und beschreiben nicht, wie jedes Modell mit der Rolle system oder developer umgeht; testen Sie Ihren Prompt mit dem Modell, das Sie ausliefern.
BroadNet meldet prompt_tokens_details.cached_tokens in usage und rechnet diese Tokens zum Preis für gecachten Input ab. Ein Rechenbeispiel mit DeepSeek V4.1 Flash und den 20 Millionen Tokens von oben: 20 × $0.175, wenn nichts gecacht ist, oder 20 × $0.0055, wenn jeder Lesezugriff den Cache trifft. Reale Trefferquoten liegen dazwischen; prüfen Sie cached_tokens, um Ihre zu sehen. Der curl-Schnellstart zeigt eine erste Anfrage.
Häufige Fehler
- Einen Zeitstempel an den Anfang des System-Prompts setzen. Er ändert sich bei jedem Aufruf und macht den Cache wirkungslos.
- Geheimnisse im System-Prompt speichern. Nutzer bringen das Modell oft dazu, ihn zu wiederholen.