SillyTavern ist ein Open-Source-Chat-Frontend, beliebt für Character-Chats und Rollenspiel. Seine Quelle Custom (OpenAI-compatible) verbindet den API-Typ Chat Completion mit jedem Server, der das generische OpenAI-Schema nutzt. BroadNet Inference stellt unter https://inference.broadnet.ai/v1 Standard-Chat-Completions bereit. BroadRouter ist die Website von BroadNet; die Schritte folgen der SillyTavern-Dokumentation und dem Release 1.19.0.
Einrichtung
-
Schlüssel besorgen. Erstellen Sie in der BroadNet-Konsole einen Pay-as-you-go-Schlüssel, kaufen Sie einen Stundenschlüssel oder einen unbegrenzten Plan.
-
Öffnen Sie das Panel API Connections.
-
Stellen Sie API auf Chat Completion.
-
Stellen Sie Chat Completion Source auf Custom (OpenAI-compatible).
-
Füllen Sie das Formular aus:
Feld Wert Custom Endpoint (Base URL) https://inference.broadnet.ai/v1Custom API Key Ihr BroadNet-Schlüssel Enter a Model ID broadnet/qwen3.8-27b -
Klicken Sie auf Connect.
-
Testen. Klicken Sie auf Test Message. SillyTavern schickt einen einfachen Prompt an das Modell; kommt eine Antwort, steht die Verbindung.
Hängen Sie /chat/completions nicht an die URL an. Laut dem Formular von SillyTavern wird dieses Suffix automatisch ergänzt.
Tippen Sie die Modell-ID ein, statt sie aus Available Models zu wählen. Diese Liste stammt aus /v1/models, das die BroadNet-Dokumentation als Katalog-Metadaten für Monitoring beschreibt. Bei unserer Prüfung am 15. November 2026 enthielt sie nur die zwei Transkriptionsmodelle, die nicht chatten können.
Welches Modell passt?
| Modell | ID | Kontext | Hinweise |
|---|---|---|---|
| DeepSeek V4.1 Flash | broadnet/deepseek-v4.1-flash |
1.048.576 | Lange Chats; das Modell der unbegrenzten Pläne |
| Qwen3.8 27B | broadnet/qwen3.8-27b |
262.144 | Bilder; von BroadNet auf Arabisch getestet |
| GLM 5.3 | broadnet/glm-5.3 |
1.048.576 | Nur Text; Tools |
| BroadNet Gemma 4 VL 26B | broadnet/gemma-4-26b-a4b |
32.768 | Läuft mit dem kostenlosen Guthaben von $5 und mit dem Stundenschlüssel |
Ein unbegrenzter Plan passt zu langen Sessions, weil Sie nicht pro Token zahlen: Eine Stunde Meteor kostet $1, eine Woche Orbit $15 und ein Monat Full Moon $60. Jede Plan-Session verarbeitet immer nur eine Anfrage.
Einstellungen, die sich lohnen
- Max Response Length (tokens). DeepSeek V4.1 Flash, GLM 5.3 und Qwen3.8 27B denken vor der Antwort nach, und das Reasoning zählt zu diesem Limit. Setzen Sie 1.000 oder mehr, sonst kommen womöglich leere Antworten zurück.
- Context Size (tokens). Passen Sie den Wert an das Modell in der Tabelle an. SillyTavern kann ihn nicht von BroadNet auslesen.
- Prompt Post-Processing. Lehnt ein Modell einen Prompt wegen mehrerer System-Nachrichten oder der Reihenfolge der Rollen ab, probieren Sie zuerst Merge consecutive roles, dann Semi-strict. Laut SillyTavern-Dokumentation verwerfen diese Optionen Tool Calls, sofern Sie nicht die Variante „with tools“ wählen.
- Bypass status check. Wenn SillyTavern meldet, dass die API nicht funktioniert, Test Message aber klappt, setzen Sie hier den Haken.
Fehlerbehebung
- 401. Der Schlüssel ist falsch, abgelaufen oder sein Kontingent ist aufgebraucht. Fügen Sie ihn erneut ein und klicken Sie auf Connect.
- 404 oder „model not found“. Die URL muss auf
/v1enden, und die ID muss das Präfixbroadnet/enthalten. Kostenpflichtige Modelle brauchen eine Aufladung; das Guthaben von $5 deckt nurbroadnet/gemma-4-26b-a4bund die beiden Transcribe-Modelle ab. - Leere Antworten. Erhöhen Sie die Antwortlänge. Warum Antworten leer zurückkommen.
- 429. Ein Pay-as-you-go-Schlüssel erlaubt 30 Anfragen pro Minute und 4 gleichzeitig laufende; Stundenschlüssel und Plan-Sessions verarbeiten jeweils einen Stream. Siehe Fehlercodes und Retries.
