---
title: "SillyTavern: eigenen OpenAI-kompatiblen Endpunkt einrichten"
description: "SillyTavern über die Chat-Completion-Quelle Custom (OpenAI-compatible) an BroadNet Inference anbinden: Modell-IDs, Prompt Post-Processing und Token-Limits."
url: https://broadrouter.com/de/guides/sillytavern-custom-openai-endpoint/
lang: de
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Mit KI-Unterstützung aus dem Englischen übersetzt. [Englisches Original lesen](https://broadrouter.com/guides/sillytavern-custom-openai-endpoint/) (aktualisiert am 2026-11-16).

# SillyTavern an BroadNet Inference anbinden (Custom OpenAI-compatible)

Aktualisiert 2026-11-16

Wählen Sie im Panel API Connections von SillyTavern Chat Completion und als Chat Completion Source Custom (OpenAI-compatible). Setzen Sie Custom Endpoint auf https://inference.broadnet.ai/v1, fügen Sie Ihren BroadNet-Schlüssel ein, tippen Sie eine Modell-ID wie broadnet/qwen3.8-27b in Enter a Model ID, klicken Sie auf Connect und dann auf Test Message. Setzen Sie Max Response Length auf 1.000 Tokens oder mehr.

SillyTavern ist ein Open-Source-Chat-Frontend, beliebt für Character-Chats und Rollenspiel. Seine Quelle **Custom (OpenAI-compatible)** verbindet den API-Typ Chat Completion mit jedem Server, der das generische OpenAI-Schema nutzt. BroadNet Inference stellt unter `https://inference.broadnet.ai/v1` Standard-Chat-Completions bereit. BroadRouter ist die Website von BroadNet; die Schritte folgen der [SillyTavern-Dokumentation](https://docs.sillytavern.app/usage/api-connections/openai/) und dem Release 1.19.0.

## Einrichtung

1.  **Schlüssel besorgen.** Erstellen Sie in der BroadNet-Konsole einen Pay-as-you-go-Schlüssel, kaufen Sie einen Stundenschlüssel oder einen [unbegrenzten Plan](https://broadrouter.com/de/guides/unlimited-llm-api-sessions/).
    
2.  Öffnen Sie das Panel **API Connections**.
    
3.  Stellen Sie **API** auf **Chat Completion**.
    
4.  Stellen Sie **Chat Completion Source** auf **Custom (OpenAI-compatible)**.
    
5.  Füllen Sie das Formular aus:
    
    | Feld | Wert |
    | --- | --- |
    | Custom Endpoint (Base URL) | `https://inference.broadnet.ai/v1` |
    | Custom API Key | Ihr BroadNet-Schlüssel |
    | Enter a Model ID | `broadnet/qwen3.8-27b` |
    
6.  Klicken Sie auf **Connect**.
    
7.  **Testen.** Klicken Sie auf **Test Message**. SillyTavern schickt einen einfachen Prompt an das Modell; kommt eine Antwort, steht die Verbindung.
    

Hängen Sie `/chat/completions` nicht an die URL an. Laut dem Formular von SillyTavern wird dieses Suffix automatisch ergänzt.

Tippen Sie die Modell-ID ein, statt sie aus **Available Models** zu wählen. Diese Liste stammt aus `/v1/models`, das die BroadNet-Dokumentation als Katalog-Metadaten für Monitoring beschreibt. Bei unserer Prüfung am 15. November 2026 enthielt sie nur die zwei Transkriptionsmodelle, die nicht chatten können.

## Welches Modell passt?

| Modell | ID | Kontext | Hinweise |
| --- | --- | --- | --- |
| DeepSeek V4.1 Flash | `broadnet/deepseek-v4.1-flash` | 1.048.576 | Lange Chats; das Modell der unbegrenzten Pläne |
| Qwen3.8 27B | `broadnet/qwen3.8-27b` | 262.144 | Bilder; von BroadNet auf Arabisch getestet |
| GLM 5.3 | `broadnet/glm-5.3` | 1.048.576 | Nur Text; Tools |
| BroadNet Gemma 4 VL 26B | `broadnet/gemma-4-26b-a4b` | 32.768 | Läuft mit dem kostenlosen Guthaben von $5 und mit dem Stundenschlüssel |

Ein unbegrenzter Plan passt zu langen Sessions, weil Sie nicht pro Token zahlen: Eine Stunde Meteor kostet $1, eine Woche Orbit $15 und ein Monat Full Moon $60. Jede Plan-Session verarbeitet immer nur eine Anfrage.

## Einstellungen, die sich lohnen

-   **Max Response Length (tokens).** DeepSeek V4.1 Flash, GLM 5.3 und Qwen3.8 27B denken vor der Antwort nach, und das Reasoning zählt zu diesem Limit. Setzen Sie 1.000 oder mehr, sonst kommen womöglich leere Antworten zurück.
-   **Context Size (tokens).** Passen Sie den Wert an das Modell in der Tabelle an. SillyTavern kann ihn nicht von BroadNet auslesen.
-   **Prompt Post-Processing.** Lehnt ein Modell einen Prompt wegen mehrerer System-Nachrichten oder der Reihenfolge der Rollen ab, probieren Sie zuerst **Merge consecutive roles**, dann **Semi-strict**. Laut SillyTavern-Dokumentation verwerfen diese Optionen Tool Calls, sofern Sie nicht die Variante „with tools“ wählen.
-   **Bypass status check.** Wenn SillyTavern meldet, dass die API nicht funktioniert, Test Message aber klappt, setzen Sie hier den Haken.

## Fehlerbehebung

-   **401.** Der Schlüssel ist falsch, abgelaufen oder sein Kontingent ist aufgebraucht. Fügen Sie ihn erneut ein und klicken Sie auf Connect.
-   **404 oder „model not found“.** Die URL muss auf `/v1` enden, und die ID muss das Präfix `broadnet/` enthalten. Kostenpflichtige Modelle brauchen eine Aufladung; das Guthaben von $5 deckt nur `broadnet/gemma-4-26b-a4b` und die beiden Transcribe-Modelle ab.
-   **Leere Antworten.** Erhöhen Sie die Antwortlänge. [Warum Antworten leer zurückkommen](https://broadrouter.com/de/guides/reasoning-tokens-empty-response/).
-   **429.** Ein Pay-as-you-go-Schlüssel erlaubt 30 Anfragen pro Minute und 4 gleichzeitig laufende; Stundenschlüssel und Plan-Sessions verarbeiten jeweils einen Stream. Siehe [Fehlercodes und Retries](https://broadrouter.com/de/guides/errors-and-retries/).

## Begriffe in dieser Anleitung

[Token](https://broadrouter.com/de/glossary/token/)

Ein Token ist die Texteinheit, die ein Sprachmodell liest und schreibt: ein Wort, ein Wortteil, ein Satzzeichen oder eine Bytefolge, die der Tokenizer des Modells erzeugt. LLM-APIs zählen, begrenzen und berechnen die Nutzung meist in Tokens.

[Tool Calling (Function Calling)](https://broadrouter.com/de/glossary/tool-calling/)

Tool Calling, auch Function Calling genannt, ist eine Funktion von LLM-APIs, bei der das Modell eine strukturierte Anfrage zurückgibt, eine vom Entwickler definierte Funktion mit JSON-Argumenten auszuführen. Die Anwendung führt die Funktion aus und sendet das Ergebnis zurück; das Modell selbst führt nie Code aus.

[API-Schlüssel (API Key)](https://broadrouter.com/de/glossary/api-key/)

Ein API-Schlüssel ist eine geheime Zeichenfolge, die einen Client beim Aufruf einer API identifiziert und autorisiert. LLM-APIs erwarten ihn meist im Header Authorization: Bearer, und wer den Schlüssel besitzt, kann Anfragen stellen, die dem Konto des Inhabers berechnet werden.

[Pay-as-you-go](https://broadrouter.com/de/glossary/pay-as-you-go/)

Pay-as-you-go ist ein Preismodell, bei dem Sie nur für tatsächliche Nutzung zahlen, gemessen pro Einheit wie Tokens, Anfragen oder Audiominuten, ohne Abonnement oder Mindestabnahme. Die meisten LLM-APIs rechnen so ab, aus einem vorausbezahlten Guthaben oder per regelmäßiger Rechnung.

[Rate Limit (Ratenbegrenzung)](https://broadrouter.com/de/glossary/rate-limit/)

Ein Rate Limit ist eine Obergrenze, die eine API festlegt, wie stark ein Client sie in einem Zeitfenster nutzen darf, etwa Anfragen pro Minute oder Tokens pro Minute. Anfragen über dem Limit werden abgelehnt, meist mit HTTP 429 Too Many Requests, bis die Nutzung wieder darunter liegt.

[Basis-URL (Base URL)](https://broadrouter.com/de/glossary/base-url/)

Eine Basis-URL ist die feste Stammadresse einer API, etwa https://api.example.com/v1, die ein Client vor jeden Endpoint-Pfad wie /chat/completions setzt. In OpenAI-kompatiblen SDKs lenkt eine geänderte Basis-URL, zusammen mit API-Schlüssel und Modell-ID, denselben Code zu einem anderen Anbieter.

[Concurrency (Parallelität)](https://broadrouter.com/de/glossary/concurrency/)

Concurrency (Parallelität) ist die Zahl der Anfragen, die ein Client gleichzeitig offen hat. LLM-APIs begrenzen sie oft pro Schlüssel oder Plan, getrennt von den Anfragen pro Minute, weil jede offene Anfrage GPU-Kapazität belegt, bis ihre Antwort fertig ist.

[Kontextfenster (Context Window)](https://broadrouter.com/de/glossary/context-window/)

Das Kontextfenster ist die maximale Anzahl an Tokens, mit der ein Sprachmodell in einer einzelnen Anfrage arbeiten kann. Es umfasst Prompt, Gesprächsverlauf, Tool-Definitionen, Bilder und den erzeugten Output einschließlich Reasoning-Tokens. Was nicht hineinpasst, muss gekürzt, zusammengefasst oder auf mehrere Anfragen verteilt werden.

## Häufige Fragen

### Warum ist die Liste Available Models bei BroadNet falsch oder leer?

SillyTavern füllt sie aus /v1/models. Bei unserer Prüfung am 15. November 2026 führte das öffentliche /v1/models von BroadNet nur die zwei Transkriptionsmodelle auf. Tippen Sie die ID des Chat-Modells stattdessen in Enter a Model ID.

### Welches BroadNet-Modell eignet sich am besten für lange Rollenspiel-Chats?

DeepSeek V4.1 Flash hat einen Kontext von 1.048.576 Tokens und ist das Modell der unbegrenzten Flatrate-Pläne von BroadNet. Qwen3.8 27B ist das Modell, das BroadNet auf Arabisch getestet hat, einschließlich Golf- und ägyptischem Dialekt.

### Warum kommen in SillyTavern leere Antworten zurück?

Die Chat-Modelle von BroadNet außer Gemma 4 VL 26B denken vor der Antwort nach, und das Reasoning zählt zu max\_tokens. Max Response Length in SillyTavern setzt dieses Limit; erhöhen Sie es also auf 1.000 Tokens oder mehr.

### Gibt es Inhaltsregeln?

Ja. Die Acceptable Use Policy von BroadNet gilt für alles, was über die API gesendet wird, und ihr Verbot sexueller Inhalte mit Minderjährigen umfasst ausdrücklich auch fiktive und synthetische Inhalte.

## Verwandte Anleitungen

-   [Jan mit BroadNet Inference als OpenAI-kompatiblem Custom Provider](https://broadrouter.com/de/guides/jan-custom-endpoint/)
-   [Open WebUI mit BroadNet Inference verbinden](https://broadrouter.com/de/guides/open-webui-openai-api/)
-   [Warum ein Reasoning-Modell eine leere Antwort liefert](https://broadrouter.com/de/guides/reasoning-tokens-empty-response/)
-   [Fehlercodes von BroadNet Inference: Wann ist ein Retry sinnvoll?](https://broadrouter.com/de/guides/errors-and-retries/)
-   [Alle Tools, die mit BroadNet Inference funktionieren (auf Englisch)](https://broadrouter.com/integrations/): SDKs, Coding-Agenten, Chat-Oberflächen und Automatisierungstools, jeweils mit den genauen Einstellungen

Testen Sie es mit Ihrem echten Workload. Neue Konten starten mit USD 5 Guthaben für Gemma und Transkription. DeepSeek, GLM und Qwen3.8 erfordern eine Aufladung.

[Loslegen](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-guides-sillytavern-custom-openai-endpoint&utm_content=page-cta) ·

**Quellen**

-   [SillyTavern-Dokumentation, Chat-Completions-API-Verbindungen, eigener OpenAI-kompatibler Endpunkt (geprüft am 2026-11-15)](https://docs.sillytavern.app/usage/api-connections/openai/)
-   [SillyTavern-Quellcode, Formular für Custom Endpoint in public/index.html, Branch release (geprüft am 2026-11-15)](https://github.com/SillyTavern/SillyTavern/blob/release/public/index.html)
-   [SillyTavern-Release 1.19.0 auf GitHub, veröffentlicht am 2026-09-14, aktuelles Release (geprüft am 2026-11-16)](https://github.com/SillyTavern/SillyTavern/releases/tag/1.19.0)
-   [Acceptable Use Policy von BroadNet (geprüft am 2026-11-15) (auf Englisch)](https://www.broadnet.ai/aup)
-   [API-Referenz von BroadNet Inference (geprüft am 2026-11-15) (auf Englisch)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-guides-sillytavern-custom-openai-endpoint&utm_content=sources)
