---
title: "Wohin die Tokens von KI-Agenten gehen und wie Sie kürzen"
description: "System-Prompt, Tool-Schemas, gelesene Dateien, Verlauf, Reasoning: wie eine Agenten-Schleife Tokens verbraucht, wie Sie jeden Teil messen und was Sie zuerst kürzen."
url: https://broadrouter.com/de/blog/agent-token-budget/
lang: de
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Mit KI-Unterstützung aus dem Englischen übersetzt. [Englisches Original lesen](https://broadrouter.com/blog/agent-token-budget/) (aktualisiert am 2026-11-14).

# Agenten-Token-Budget: wohin die Tokens einer Agenten-Schleife gehen

Vom Team von BroadNet Inference · 5 Min. Lesezeit · Veröffentlicht 2026-11-14

Eine Agenten-Schleife sendet bei jedem Aufruf ihren gesamten Kontext erneut: System-Prompt, Tool-Definitionen, Gesprächsverlauf, Dateiinhalte und Tool-Output, dazu den neuen Schritt. Der Input übersteigt den Output meist um ein Vielfaches. Loggen Sie prompt\_tokens, cached\_tokens und completion\_tokens pro Aufruf, finden Sie den größten sich wiederholenden Block, und kürzen Sie dann Tools, begrenzen Sie Tool-Output und starten Sie lange Sessions neu.

## Das Wichtigste in Kürze

-   Jeder Modellaufruf sendet den vollständigen Kontext erneut. Eine Aufgabe mit 40 Schritten und 30.000 Tokens pro Aufruf liest 1,2 Millionen Input-Tokens.
-   Die fünf Posten: System-Prompt, Tool-Schemas, Verlauf, gelesene Dateien und Tool-Output sowie Output einschließlich Reasoning.
-   Messen Sie pro Aufruf über den Usage-Block: prompt\_tokens, prompt\_tokens\_details.cached\_tokens und completion\_tokens.
-   Cursor berichtete, dass System-Prompt und Tool-Definitionen zu einer der größten Kostenquellen geworden waren, die das Unternehmen vollständig selbst kontrolliert.
-   Kürzen Sie in dieser Reihenfolge: ungenutzte Tools, übergroßer Tool-Output, veralteter Verlauf, dann der System-Prompt. Halten Sie das stabile Präfix identisch, damit es gecacht bleibt.

**Auf dieser Seite**

1.  Warum sendet ein Agent alles erneut?
2.  Wohin gehen die Tokens?
3.  Wie messen Sie das?
4.  Was sollten Sie zuerst kürzen?
5.  Warum sollte das Präfix stabil bleiben?
6.  Wie sieht ein durchgerechnetes Agenten-Budget aus?
7.  Wo BroadNet Inference passt

Ein Chat kostet, was Sie tippen, plus das, was das Modell schreibt. Ein Agent kostet weit mehr, weil er das Modell Dutzende Male aufruft und jedes Mal fast alles erneut sendet. Wenn Sie diese Kosten senken oder einfach nicht mehr an das [Kontextfenster](https://broadrouter.com/de/glossary/context-window/) stoßen wollen, müssen Sie wissen, welcher Teil jeder Anfrage groß ist. Dieser Beitrag zerlegt eine Agenten-Schleife in fünf Posten, zeigt, wie Sie jeden aus den Usage-Daten der API messen, und nennt, was Sie zuerst kürzen sollten.

## Warum sendet ein Agent alles erneut?

Chat-Completions-APIs sind zustandslos. Das Modell merkt sich zwischen Aufrufen nichts, also sendet der Agent in jedem Schritt den vollständigen Kontext. Eine Aufgabe mit 40 Schritten, bei der jeder Aufruf 30.000 Tokens enthält, liest **1,2 Millionen Input-Tokens**, um vielleicht 40.000 Output-Tokens zu erzeugen. Dieses Verhältnis von 30 zu 1 ist der Grund, warum [Input-Tokens](https://broadrouter.com/de/glossary/input-and-output-tokens/) und ihr Cache-Preis die Rechnung von Agenten dominieren.

## Wohin gehen die Tokens?

| Posten | Was es ist | Bei jedem Aufruf wiederholt? | Typischer Treiber |
| --- | --- | --- | --- |
| System-Prompt | Agenten-Anweisungen, Regeldateien, Projektnotizen | Ja | Lange Regeldateien |
| Tool-Schemas | Name, Beschreibung und JSON Schema jedes Tools | Ja | Eingebaute Tools plus jeder MCP-Server |
| Verlauf | Frühere Nachrichten, Tool-Aufrufe und Ergebnisse | Ja, und er wächst | Lange Sessions |
| Gelesene Dateien und Tool-Output | Dateiinhalte, Test-Logs, Suchergebnisse | Ja, bis sie entfernt werden | Ganze Dateien lesen, gesprächige Befehle |
| Output | Sichtbare Antwort, Tool-Aufrufe und Reasoning | Nein | Reasoning-Aufwand, ganze Dateien neu schreiben |

Die ersten beiden sind fixer Overhead. Cursor schrieb im September 2026, dass System-Prompt und Tool-Definitionen „had become one of the largest sources of spend that we fully control“ (Übersetzung: zu einer der größten Kostenquellen geworden waren, die wir vollständig kontrollieren), und nannte gelesene Dateien „another large source of token spend“ (Übersetzung: eine weitere große Quelle für Token-Kosten). Die Änderungen von Cursor, darunter ein um etwa zwei Drittel gekürzter System-Prompt und Tools, die in weniger als 20 % der Unterhaltungen genutzt werden und nur noch bei Bedarf geladen werden, senkten die Token-Kosten der Nutzer um 7 %. Das VS-Code-Team von GitHub nannte für Copilot dieselben beiden Kosten: das wiederholte Prompt-Präfix und den Overhead der Tool-Definitionen.

## Wie messen Sie das?

Sie brauchen kein Tracing-Produkt. Der Usage-Block jeder Antwort genügt.

1.  **Usage einschalten.** Fügen Sie beim Streaming `stream_options: {"include_usage": true}` hinzu; die Usage-Daten kommen im letzten Chunk. Siehe [Streaming](https://broadrouter.com/de/guides/streaming-chat-completions/).
2.  **Pro Aufruf loggen:** Schrittnummer, `prompt_tokens`, `prompt_tokens_details.cached_tokens`, `completion_tokens` und, sofern gemeldet, `completion_tokens_details.reasoning_tokens`.
3.  **Den fixen Overhead einmal messen.** Senden Sie eine Anfrage nur mit System-Prompt und Tools und dem Wort „hi“. Ihr Wert `prompt_tokens` ist Ihre Untergrenze.
4.  **Den Output eines Tools messen.** Zählen Sie die Zeichen jedes Tool-Ergebnisses, bevor Sie es anhängen. Geteilt durch vier ergibt das eine grobe Token-Zahl für englischen Text; für den genauen Wert mit dem Tokenizer Ihres Modells fügen Sie ein Beispiel in den kostenlosen [Token-Zähler](https://broadrouter.com/tools/token-counter/) ein.

```python
r = client.chat.completions.create(model=MODEL, messages=msgs, tools=tools)
u = r.usage
cached = getattr(u.prompt_tokens_details, "cached_tokens", 0) or 0
log.info("step=%d prompt=%d cached=%d out=%d", step, u.prompt_tokens, cached, u.completion_tokens)
```

Tragen Sie `prompt_tokens` pro Schritt in ein Diagramm ein. Ein gleichmäßiger Anstieg bedeutet, dass der Verlauf wächst. Ein plötzlicher Sprung bedeutet, dass eine große Datei oder ein Log in den Kontext gelangt ist. Eine hohe Untergrenze bedeutet zu viele Tools.

In Aider zeigt `/tokens`, was im aktuellen Kontext steckt, und `/drop` entfernt Dateien daraus.

## Was sollten Sie zuerst kürzen?

Ordnen Sie nach Größe mal Wiederholungen, nicht danach, was am einfachsten ist:

1.  **Ungenutzte Tools.** Jedes Tool-Schema fährt bei jedem Aufruf mit. Der Leitfaden von OpenAI sagt, dass Funktionsdefinitionen „are billed as input tokens“ (Übersetzung: als Input-Tokens abgerechnet werden), und empfiehlt als weiche Regel weniger als 20 Funktionen zu Beginn eines Zugs. Deaktivieren Sie MCP-Server, die Sie bei dieser Aufgabe nicht brauchen; die opencode-Doku sagt klar, dass MCP-Tools Modellkontext verbrauchen.
2.  **Tool-Output.** Begrenzen Sie die Ausgabe von Befehlen (die letzten 200 Zeilen eines Test-Logs, nicht 20.000). Geben Sie Suchergebnisse als Pfade und Zeilennummern zurück und lesen Sie dann nur, was nötig ist.
3.  **Gelesene Dateien.** Lesen Sie die Funktion, nicht die Datei. Die Repo-Map von Aider nutzt ein Standardbudget von 1k Tokens (`--map-tokens`) statt ganzer Dateien.
4.  **Verlauf.** Starten Sie pro Änderung eine neue Aufgabe. Muss eine Session weiterlaufen, ersetzen Sie alte Züge durch eine kurze Zusammenfassung.
5.  **System-Prompt.** Entfernen Sie Regeln, die das Modell ohnehin befolgt. Halten Sie den Rest stabil.
6.  **Output.** Fordern Sie Diffs an, keine ganzen Dateien. Setzen Sie `reasoning_effort` für Routineschritte auf `low`. [Reasoning-Tokens](https://broadrouter.com/de/glossary/reasoning-tokens/) werden als Output abgerechnet.

## Warum sollte das Präfix stabil bleiben?

Anbieter cachen ein wiederholtes Präfix und rechnen es zu einem niedrigeren Preis ab. Bei BroadNet Inference rechnet [DeepSeek V4.1 Flash](https://broadrouter.com/de/models/deepseek-v4.1-flash/) [gecachten Input](https://broadrouter.com/de/glossary/cached-input-tokens/) mit $0.0055 pro 1 Mio. Tokens ab und neuen Input mit $0.175. [GLM 5.3](https://broadrouter.com/de/models/glm-5.3/) berechnet $0.173 gegenüber $0.78. Ein Zeitstempel im System-Prompt oder Tools, die bei jedem Aufruf in anderer Reihenfolge stehen, brechen den Cache ab dieser Stelle. Stellen Sie stabile Teile in fester Reihenfolge an den Anfang und veränderliche Teile ans Ende. Mehr dazu in [Gecachte Input-Tokens erklärt](https://broadrouter.com/de/blog/cached-input-tokens-explained/); der [Prompt-Caching-Rechner](https://broadrouter.com/tools/prompt-caching-calculator/) zeigt, was eine bestimmte Trefferquote spart.

Caching senkt den Preis des Präfixes, aber nicht seine Größe. Gecachte Tokens füllen weiterhin das Kontextfenster und brauchen weiterhin Zeit zur Verarbeitung.

## Wie sieht ein durchgerechnetes Agenten-Budget aus?

Nehmen Sie die Aufgabe mit 40 Schritten von oben, mit 80 % gecachtem Input:

| Teil | Tokens | Abgerechnet zum |
| --- | --- | --- |
| Neuer Input | 240.000 | Input-Preis |
| Gecachter Input | 960.000 | Preis für gecachten Input |
| Output inkl. Reasoning | 40.000 | Output-Preis |

Streicht man 5.000 Tokens ungenutzter Tool-Schemas aus jedem Aufruf, entfallen bei dieser Aufgabe 200.000 Input-Tokens, etwa ein Sechstel der Summe, ohne dass sich das Verhalten des Agenten ändert. Kostenhebel jenseits des Kürzens, etwa Modellwahl, Caching und Pauschalpläne, finden Sie unter [10 Wege, die LLM-Kosten von Coding-Agenten zu senken](https://broadrouter.com/de/blog/cut-coding-agent-llm-costs/). Bei Multi-Agenten-Setups multiplizieren Sie mit der Zahl der Agenten; siehe [was Multi-Agenten-Setups kosten](https://broadrouter.com/de/blog/multi-agent-cost/). Um Ihre eigene Schleife Schritt für Schritt zu modellieren, nutzen Sie den [Kostenschätzer für Agenten-Läufe](https://broadrouter.com/tools/agent-run-cost-estimator/).

## Wo BroadNet Inference passt

BroadNet Inference gibt Prompt- und Completion-Tokens im Usage-Block zurück, dazu gecachte und Reasoning-Tokens, wenn das Modell sie meldet. Die Messung oben funktioniert also wie beschrieben. Der niedrige Preis für gecachten Input bei DeepSeek V4.1 Flash belohnt ein stabiles Präfix. Lohnt sich das Kürzen für Sie nicht, entfernen die unbegrenzten Pläne den Token-Zähler für DeepSeek V4.1 Flash für $60 im Monat pro Session; das Kontextfenster gilt weiterhin, und ein schlanker Kontext läuft trotzdem schneller. Die Pläne finden Sie unter [inference.broadnet.ai/plans](https://inference.broadnet.ai/plans?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-blog-agent-token-budget&utm_content=body).

Kostenlose Tools zum Thema (auf Englisch)

-   [Agent run cost estimator](https://broadrouter.com/tools/agent-run-cost-estimator/) Context growth per step, total tokens and cost of one agent run, with a DeepSeek session comparison.
-   [LLM batch job planner](https://broadrouter.com/tools/llm-batch-job-planner/) Run time, binding limit, cost per model and the flat sessions needed to finish a big job by a deadline.
-   [Flat-rate vs per-token LLM cost calculator](https://broadrouter.com/tools/flat-rate-vs-per-token-calculator/) Break-even between an unlimited plan and paying per token, per agent.
-   [LLM rate limit and concurrency calculator](https://broadrouter.com/tools/llm-rate-limit-calculator/) Which limit binds first: RPM, TPM or concurrency, with Little's law.

[Kostenlose Tools (auf Englisch)](https://broadrouter.com/tools/)

## Begriffe in diesem Artikel

[Token](https://broadrouter.com/de/glossary/token/)

Ein Token ist die Texteinheit, die ein Sprachmodell liest und schreibt: ein Wort, ein Wortteil, ein Satzzeichen oder eine Bytefolge, die der Tokenizer des Modells erzeugt. LLM-APIs zählen, begrenzen und berechnen die Nutzung meist in Tokens.

[Tool Calling (Function Calling)](https://broadrouter.com/de/glossary/tool-calling/)

Tool Calling, auch Function Calling genannt, ist eine Funktion von LLM-APIs, bei der das Modell eine strukturierte Anfrage zurückgibt, eine vom Entwickler definierte Funktion mit JSON-Argumenten auszuführen. Die Anwendung führt die Funktion aus und sendet das Ergebnis zurück; das Modell selbst führt nie Code aus.

[Input- und Output-Tokens](https://broadrouter.com/de/glossary/input-and-output-tokens/)

Input-Tokens sind die Tokens, die ein Sprachmodell in einer Anfrage liest, einschließlich System-Prompt, Gesprächsverlauf, Tool-Definitionen und Bildern. Output-Tokens sind die Tokens, die es als Antwort erzeugt, einschließlich Reasoning. LLM-APIs berechnen beide meist getrennt, und Output ist in der Regel teurer.

[System-Prompt](https://broadrouter.com/de/glossary/system-prompt/)

Ein System-Prompt ist der Anweisungstext, den eine Anwendung einem Sprachmodell vor dem Gespräch sendet, meist als Nachricht mit der Rolle system oder developer. Er legt Rolle, Regeln, Ton und Ausgabeformat des Modells fest, und das Modell soll ihm auch bei widersprechenden Nutzernachrichten folgen.

[Kontextfenster (Context Window)](https://broadrouter.com/de/glossary/context-window/)

Das Kontextfenster ist die maximale Anzahl an Tokens, mit der ein Sprachmodell in einer einzelnen Anfrage arbeiten kann. Es umfasst Prompt, Gesprächsverlauf, Tool-Definitionen, Bilder und den erzeugten Output einschließlich Reasoning-Tokens. Was nicht hineinpasst, muss gekürzt, zusammengefasst oder auf mehrere Anfragen verteilt werden.

[MCP (Model Context Protocol)](https://broadrouter.com/de/glossary/mcp/)

MCP (Model Context Protocol) ist ein offenes Protokoll auf Basis von JSON-RPC 2.0, das standardisiert, wie LLM-Anwendungen sich mit externen Tools und Daten verbinden. Ein MCP-Server stellt Tools, Ressourcen und Prompts bereit; ein MCP-Client in der Host-Anwendung findet sie und leitet Tool Calls des Modells an den Server weiter.

[Reasoning-Tokens](https://broadrouter.com/de/glossary/reasoning-tokens/)

Reasoning-Tokens sind Tokens, die ein Reasoning-Modell erzeugt, um ein Problem durchzuarbeiten, bevor es seine sichtbare Antwort schreibt. Sie werden meist als Output-Tokens berechnet, zählen zum Output-Limit und zum Kontextfenster und können von der API verborgen oder zusammengefasst werden.

[Gecachte Input-Tokens (Cached Input Tokens)](https://broadrouter.com/de/glossary/cached-input-tokens/)

Gecachte Input-Tokens sind Prompt-Tokens, die ein LLM-Anbieter kürzlich verarbeitet hat und aus einem Cache wiederverwenden kann, statt sie neu zu berechnen, meist ein wiederholtes Präfix wie ein System-Prompt oder ein Dokument. Anbieter berechnen sie günstiger als neue Input-Tokens.

## Häufige Fragen

### Warum verbraucht mein Coding-Agent so viele Input-Tokens?

Weil die API zustandslos ist. Jeder Aufruf sendet den System-Prompt, jede Tool-Definition, die bisherige Unterhaltung und alle Dateiinhalte, die noch im Kontext sind, erneut. Eine lange Session multipliziert das mit der Zahl der Schritte.

### Wie sehe ich, wie viele Tokens jeder Schritt meines Agenten verbraucht?

Lesen Sie den Usage-Block jeder Antwort. Beim Streaming setzen Sie in stream\_options include\_usage auf true und lesen den letzten Chunk. Loggen Sie prompt\_tokens, prompt\_tokens\_details.cached\_tokens und completion\_tokens mit einer Schrittnummer.

### Zählen Tool-Definitionen als Input-Tokens?

Ja. Die Tool-Liste ist Teil des Prompts und wird bei jedem Aufruf gesendet. MCP-Server fügen dieser Liste ihre Tools hinzu; deshalb rät die opencode-Doku, nur die Server hinzuzufügen, die Sie brauchen.

### Löst Prompt Caching das Problem?

Es senkt den Preis des wiederholten Präfixes, nicht seine Größe. Gecachter Input füllt weiterhin das Kontextfenster. Bei BroadNet rechnet DeepSeek V4.1 Flash gecachten Input mit $0.0055 pro 1 Mio. Tokens ab, neuen Input mit $0.175.

### Gehören Reasoning-Tokens zum Budget?

Ja, auf der Output-Seite. Reasoning-Modelle rechnen das Nachdenken auf max\_tokens an und berechnen es bei Pay-as-you-go als Output. Setzen Sie reasoning\_effort für Routineschritte auf low.

## Weiterlesen

-   [OpenClaw und Hermes Agent mit günstigem Modell: Setup und Kosten](https://broadrouter.com/de/blog/openclaw-hermes-agent-cheap-model/)
-   [Gecachte Input-Tokens: So senken Sie die Rechnung Ihrer LLM-API](https://broadrouter.com/de/blog/cached-input-tokens-explained/)
-   [Was Multi-Agenten-Setups wirklich kosten: pro Token vs. Flatrate](https://broadrouter.com/de/blog/multi-agent-cost/)
-   [Bestes offenes Modell für Coding-Agenten: Tools, Kontext und Kosten](https://broadrouter.com/de/blog/best-open-model-for-coding-agents/)
-   [LLM-API: Flatrate oder Abrechnung pro Token? Die Break-even-Rechnung](https://broadrouter.com/de/blog/flat-rate-vs-pay-per-token-llm-api/)
-   [Prompt-Tokens reduzieren: gemessene Effekte bei Prompts, Tools, Daten](https://broadrouter.com/de/blog/reduce-prompt-tokens/)
-   [Kosten eines KI-Coding-Agent-Laufs: Schritte, Kontext, Caching](https://broadrouter.com/de/blog/ai-coding-agent-run-cost/)
-   [Claude Code mit offenen Modellen: Proxys, native Endpoints, Grenzen](https://broadrouter.com/de/blog/claude-code-with-openai-compatible-models/)
-   [Anleitung: Chat Completions streamen und abgebrochene Verbindungen behandeln](https://broadrouter.com/de/guides/streaming-chat-completions/)
-   [Anleitung: Warum ein Reasoning-Modell eine leere Antwort liefert](https://broadrouter.com/de/guides/reasoning-tokens-empty-response/)
-   [Anleitung: Aider mit unbegrenztem DeepSeek V4.1 Flash betreiben](https://broadrouter.com/de/guides/aider-unlimited-deepseek/)

Testen Sie es mit Ihrem echten Workload. Neue Konten starten mit USD 5 Guthaben für Gemma und Transkription. DeepSeek, GLM und Qwen3.8 erfordern eine Aufladung.

[Loslegen](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-blog-agent-token-budget&utm_content=page-cta) ·

**Quellen**

-   [Cursor, verbesserte Token-Effizienz (23. September 2026; abgerufen am 2026-11-14)](https://cursor.com/blog/improved-token-efficiency)
-   [VS-Code-Blog, bessere Token-Effizienz in GitHub Copilot (abgerufen am 2026-11-14)](https://code.visualstudio.com/blogs/2026/06/17/improving-token-efficiency-in-github-copilot)
-   [OpenAI, Leitfaden zu Function Calling, weniger als 20 Funktionen (abgerufen am 2026-11-14)](https://developers.openai.com/api/docs/guides/function-calling)
-   [opencode-Dokumentation, MCP-Server und Kontextverbrauch (abgerufen am 2026-11-14)](https://opencode.ai/docs/mcp-servers/)
-   [Aider-Dokumentation, Repository-Map und Befehle im Chat (abgerufen am 2026-11-14)](https://aider.chat/docs/repomap.html)
-   [API-Referenz von BroadNet Inference, Usage und gecachte Tokens (abgerufen am 2026-11-14) (auf Englisch)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-blog-agent-token-budget&utm_content=sources)
