BroadRouter

Connecter SillyTavern à BroadNet Inference (Custom OpenAI-compatible)

Mis à jour

Dans le panneau API Connections de SillyTavern, choisissez Chat Completion, puis Custom (OpenAI-compatible) comme Chat Completion Source. Réglez Custom Endpoint sur https://inference.broadnet.ai/v1, collez votre clé BroadNet, saisissez un ID de modèle comme broadnet/qwen3.8-27b dans Enter a Model ID, cliquez sur Connect, puis sur Test Message. Réglez Max Response Length sur 1 000 tokens ou plus.

SillyTavern est une interface de chat open source, populaire pour le chat avec des personnages et le jeu de rôle. Sa source Custom (OpenAI-compatible) relie le type d’API Chat Completion à tout serveur qui suit le schéma OpenAI générique. BroadNet Inference sert des chat completions standard à l’adresse https://inference.broadnet.ai/v1. BroadRouter est le site de BroadNet ; les étapes suivent la documentation de SillyTavern et sa version 1.19.0.

Configuration

  1. Obtenez une clé. Créez une clé à l’usage dans la console BroadNet, achetez une clé horaire ou un forfait illimité.

  2. Ouvrez le panneau API Connections.

  3. Réglez API sur Chat Completion.

  4. Réglez Chat Completion Source sur Custom (OpenAI-compatible).

  5. Remplissez le formulaire :

    Champ Valeur
    Custom Endpoint (Base URL) https://inference.broadnet.ai/v1
    Custom API Key votre clé BroadNet
    Enter a Model ID broadnet/qwen3.8-27b
  6. Cliquez sur Connect.

  7. Testez. Cliquez sur Test Message. SillyTavern envoie un prompt simple au modèle ; s’il répond, la connexion fonctionne.

N’ajoutez pas /chat/completions à l’URL. Le formulaire de SillyTavern précise que ce suffixe est ajouté automatiquement.

Saisissez l’ID du modèle au lieu de le choisir dans Available Models. Cette liste provient de /v1/models, que la documentation de BroadNet décrit comme des métadonnées de catalogue destinées à la supervision. Lors de notre vérification du 15 novembre 2026, elle ne listait que les deux modèles de transcription, qui ne savent pas faire de chat.

Quel modèle choisir ?

Modèle ID Contexte Remarques
DeepSeek V4.1 Flash broadnet/deepseek-v4.1-flash 1 048 576 Longues conversations ; le modèle des forfaits illimités
Qwen3.8 27B broadnet/qwen3.8-27b 262 144 Images ; testé en arabe par BroadNet
GLM 5.3 broadnet/glm-5.3 1 048 576 Texte uniquement ; outils
BroadNet Gemma 4 VL 26B broadnet/gemma-4-26b-a4b 32 768 Fonctionne avec le crédit gratuit de $5 et la clé horaire

Un forfait illimité convient aux longues sessions, car vous ne payez pas au token : une heure Meteor coûte $1, une semaine Orbit $15 et un mois Full Moon $60. Chaque session de forfait traite une requête à la fois.

Les réglages à modifier

  • Max Response Length (tokens). DeepSeek V4.1 Flash, GLM 5.3 et Qwen3.8 27B raisonnent avant de répondre, et le raisonnement compte dans cette limite. Mettez 1 000 ou plus, sinon vous risquez des réponses vides.
  • Context Size (tokens). Alignez-la sur le modèle du tableau. SillyTavern ne peut pas la lire chez BroadNet.
  • Prompt Post-Processing. Si un modèle rejette un prompt à cause de plusieurs messages système ou de l’ordre des rôles, essayez d’abord Merge consecutive roles, puis Semi-strict. La documentation de SillyTavern signale que ces options suppriment les appels d’outils, sauf si vous choisissez la variante « with tools ».
  • Bypass status check. Si SillyTavern signale que l’API ne fonctionne pas alors que Test Message réussit, cochez cette case.

Dépannage

  • 401. La clé est erronée, a expiré ou a épuisé son allocation. Collez-la de nouveau et cliquez sur Connect.
  • 404 ou « model not found ». L’URL doit se terminer par /v1, et l’ID doit inclure le préfixe broadnet/. Les modèles payants nécessitent une recharge ; le crédit de $5 ne couvre que broadnet/gemma-4-26b-a4b et les deux modèles Transcribe.
  • Réponses vides. Augmentez la longueur de réponse. Pourquoi les réponses reviennent vides.
  • 429. Une clé à l’usage autorise 30 requêtes par minute et 4 requêtes en cours ; la clé horaire et les sessions de forfait traitent un seul flux à la fois. Voir codes d’erreur et nouvelles tentatives.

Questions fréquentes

Pourquoi la liste Available Models est-elle fausse ou vide avec BroadNet ?

SillyTavern la remplit à partir de /v1/models. Lors de notre vérification du 15 novembre 2026, le /v1/models public de BroadNet ne listait que ses deux modèles de transcription. Saisissez plutôt l’ID du modèle de chat dans Enter a Model ID.

Quel modèle BroadNet choisir pour de longues parties de jeu de rôle ?

DeepSeek V4.1 Flash offre un contexte de 1 048 576 tokens et c’est le modèle des forfaits illimités à prix fixe de BroadNet. Qwen3.8 27B est celui que BroadNet a testé en arabe, y compris les dialectes du Golfe et égyptien.

Pourquoi les réponses arrivent-elles vides dans SillyTavern ?

Les modèles de chat de BroadNet, sauf Gemma 4 VL 26B, raisonnent avant de répondre, et ce raisonnement compte dans max_tokens. Le réglage Max Response Length de SillyTavern fixe cette limite : passez-le à 1 000 tokens ou plus.

Y a-t-il des règles sur le contenu ?

Oui. La politique d’utilisation acceptable de BroadNet s’applique à tout ce qui passe par l’API, et son interdiction des contenus sexuels impliquant des mineurs couvre explicitement les contenus fictifs et synthétiques.

Lire en MarkdownDemander à ChatGPTDemander à ClaudeDemander à Perplexity