Jan mit BroadNet Inference als OpenAI-kompatiblem Custom Provider
Aktualisiert
Öffnen Sie in Jan Settings, Model Providers und klicken Sie auf Add Provider. Wählen Sie OpenAI-compatible, nennen Sie den Provider BroadNet, setzen Sie die Base URL auf https://inference.broadnet.ai/v1 und fügen Sie Ihren BroadNet-Schlüssel ein. Fügen Sie dann Chatmodelle von Hand über den Button + hinzu, etwa broadnet/glm-5.3, und aktivieren Sie Tools oder Vision für jedes Modell unter seinen Fähigkeiten.
Jan ist eine quelloffene Desktop-Chat-App, die lokale Modelle ausführt und sich mit Cloud-APIs verbindet. Jeder Dienst, der das OpenAI-Format spricht, lässt sich als Custom Provider hinzufügen. BroadNet Inference stellt unter https://inference.broadnet.ai/v1 Standard-Chat-Completions bereit. BroadRouter ist die Website von BroadNet selbst; die Schritte folgen Jans Seite zu Custom Endpoints zum Stand von Jan 0.8.8.
Einrichtung
Schlüssel besorgen. Erstellen Sie in der BroadNet-Konsole einen Pay-as-you-go-Schlüssel, oder kaufen Sie einen Stunden-Schlüssel oder einen Plan.
Dialog öffnen. Gehen Sie zu Settings > Model Providers und klicken Sie neben der Liste auf Add Provider.
API-Format wählen. Wählen Sie OpenAI-compatible, den Standard.
Angaben ausfüllen:
Feld
Wert
Provider name
BroadNet
Base URL
https://inference.broadnet.ai/v1
API key
Ihr BroadNet-Schlüssel
Klicken Sie auf Create.
Modelle von Hand hinzufügen. Klicken Sie im Bereich Models des Providers auf + und geben Sie jede Chatmodell-ID exakt ein, zum Beispiel broadnet/glm-5.3.
Fähigkeiten setzen. Klicken Sie auf den Stift neben jedem Modell und aktivieren Sie, was es unterstützt (Tabelle unten). Bei Custom Providern kann Jan das nicht erkennen.
Testen. Starten Sie einen neuen Chat, wählen Sie in der Modellauswahl das BroadNet-Modell und senden Sie eine kurze Nachricht.
Jan ruft beim Speichern https://inference.broadnet.ai/v1/models ab. Die BroadNet-Dokumentation beschreibt diesen Endpoint als Katalog-Metadaten für Monitoring, und bei unserer Prüfung am 15. November 2026 listete er nur die beiden Transkriptionsmodelle. Die können nicht chatten; entfernen Sie sie, falls sie auftauchen.
Modell-IDs und Fähigkeiten
Modell
ID
Tools
Bilder
Kontext
GLM 5.3
broadnet/glm-5.3
An
Aus
1.048.576
Qwen3.8 27B
broadnet/qwen3.8-27b
An
An
262.144
DeepSeek V4.1 Flash
broadnet/deepseek-v4.1-flash
Aus (von BroadNet nicht gelistet)
An
1.048.576
BroadNet Gemma 4 VL 26B
broadnet/gemma-4-26b-a4b
Aus
An
32.768
broadnet/gemma-4-26b-a4b ist das einzige Chatmodell, das mit dem Startguthaben von $5 läuft, und es ist das Modell hinter BroadNets Stunden-Schlüssel ($0.50 für eine Stunde, ein Stream). Die anderen brauchen eine Aufladung oder, für DeepSeek V4.1 Flash, einen unbegrenzten Plan.
Einstellungen, die sich lohnen
Output-Limit. Drei der Modelle denken vor der Antwort nach, und das Reasoning zählt zu max_tokens. Wenn Sie für ein BroadNet-Modell ein Output-Limit setzen, lassen Sie es bei 1.000 Token oder mehr.
Sampler. Bei Custom Providern bietet Jan den vollen Satz an Sampling-Parametern an, und seine Dokumentation warnt, dass eigene Endpoints nicht unterstützte Sampler stillschweigend ignorieren können. Scheint eine Einstellung wie min-P nichts zu bewirken, liegt es daran.
Fallback-Schlüssel. Jan kann mehrere Schlüssel pro Provider halten und versucht es bei 401, 403 oder 429 mit dem nächsten. BroadNets Acceptable Use Policy verbietet das Umgehen von Raten- oder Parallelitätslimits; nutzen Sie zusätzliche Schlüssel also für Failover, nicht um Ihre Limits zu vervielfachen.
Fehlerbehebung
404 bei jeder Anfrage. In der Base URL fehlt /v1. Die Jan-Dokumentation nennt das den häufigsten Fehler.
401 oder 403. Der Schlüssel ist falsch, abgelaufen oder sein Kontingent ist aufgebraucht. Ein bestandenes Test keys beweist nicht, dass der Schlüssel funktioniert, denn BroadNets /v1/models antwortete bei unserer Prüfung auch ohne Schlüssel.
Modell nicht gefunden. Prüfen Sie die ID, einschließlich des Präfixes broadnet/. Kostenpflichtige Modelle brauchen eine Aufladung.
429. Ein Pay-as-you-go-Schlüssel erlaubt 30 Anfragen pro Minute und 4 gleichzeitig laufende; ein Stunden-Schlüssel bedient einen Stream. Siehe Fehlercodes und Retries.
Häufige Fragen
Warum zeigt Jan nach dem Hinzufügen von BroadNet nur Transkriptionsmodelle?
Jan ruft beim Speichern https://inference.broadnet.ai/v1/models ab. Bei unserer Prüfung am 15. November 2026 listete BroadNets öffentliches /v1/models nur die beiden Transkriptionsmodelle, die im Chat nicht funktionieren. Entfernen Sie sie und tragen Sie die IDs der Chatmodelle von Hand ein.
Der Button Test keys in Jan meldet OK. Ist mein Schlüssel gültig?
Nicht unbedingt. Jan testet Schlüssel mit einem Aufruf von /models, und BroadNets /v1/models antwortete bei unserer Prüfung auch ohne Schlüssel. Senden Sie eine Chatnachricht, um den Schlüssel zu bestätigen.
Kann ich den Stunden-Schlüssel von BroadNet in Jan nutzen?
Ja. Der Stunden-Schlüssel läuft mit BroadNet Gemma 4 VL 26B, ID broadnet/gemma-4-26b-a4b, und jeweils einem Stream – das passt zu einem einzelnen Chatfenster.
Erkennt Jan, ob ein BroadNet-Modell Bilder oder Tools unterstützt?
Nein. Laut Jan-Dokumentation werden die Fähigkeiten bei Custom Providern nicht erkannt. Aktivieren Sie die Bildeingabe für DeepSeek V4.1 Flash, Qwen3.8 27B und Gemma 4 VL 26B und Tools für GLM 5.3 und Qwen3.8 27B.