Ajouter BroadNet Inference à Dify avec le plugin OpenAI-API-compatible
Mis à jour
Dans Dify, installez le plugin OpenAI-API-compatible depuis Integrations, Model Provider, puis cliquez sur Add Model. Choisissez le type LLM et saisissez un ID BroadNet comme broadnet/glm-5.3, votre clé BroadNet et l’API Base URL https://inference.broadnet.ai/v1. Réglez Completion mode sur Chat, la vraie taille de contexte, une limite de sortie avec de la marge pour le raisonnement, et Tool Call seulement pour GLM 5.3 ou Qwen3.8 27B.
Dify est une plateforme open source pour créer des applications et des workflows LLM. Les fournisseurs que Dify ne liste pas nommément s’ajoutent via le plugin de fournisseur de modèles OpenAI-API-compatible, publié par l’équipe de Dify (langgenius). BroadNet Inference sert des chat completions standard à l’adresse https://inference.broadnet.ai/v1 : il convient donc. BroadRouter est le site de BroadNet ; les noms de champs ci-dessous viennent de la version 0.0.83 du plugin.
Configuration
Obtenez une clé. Créez une clé à l’usage dans la console BroadNet.
Installez le plugin. Dans Dify, allez dans Integrations > Model Provider, trouvez OpenAI-API-compatible parmi les fournisseurs installables (ou ouvrez-le sur la Marketplace) et installez-le. Vous devez être propriétaire ou administrateur de l’espace de travail.
Ajoutez un modèle. Cliquez sur Add Model sur la carte du fournisseur et remplissez :
Champ
Valeur
Model Type
LLM
Model Name
broadnet/glm-5.3
Model display name
GLM 5.3 (BroadNet)
API Key
votre clé BroadNet
API Base URL
https://inference.broadnet.ai/v1
Completion mode
Chat
Model context size
1048576
Upper bound for max tokens
16000
Function Call Type
Tool Call
Vision Support
Not Support
Structured Output
Support
API Type
Chat Completions API (/chat/completions)
Token parameter name
Use max_tokens
Enregistrez. Dify vérifie les identifiants avant d’ajouter le modèle.
Testez. Créez une application Chatbot, sélectionnez GLM 5.3 (BroadNet) dans le sélecteur de modèles et envoyez un message dans le volet d’aperçu.
Répétez Add Model pour chaque modèle BroadNet souhaité. Le nom du modèle doit correspondre exactement à l’ID BroadNet, préfixe broadnet/ compris.
Valeurs par modèle
Model Name
Taille de contexte
Function Call Type
Vision Support
broadnet/glm-5.3
1048576
Tool Call
Not Support
broadnet/qwen3.8-27b
262144
Tool Call
Support
broadnet/deepseek-v4.1-flash
1048576
Not Support (non testé)
Support
broadnet/gemma-4-26b-a4b
32768
Not Support
Support
Pourquoi ces choix :
Context size vaut 4 096 par défaut dans le plugin. Si vous la laissez ainsi, Dify tronque la mémoire et le contexte récupéré bien en dessous de ce que le modèle accepte.
Upper bound for max tokens vaut aussi 4 096 par défaut. Trois des modèles raisonnent avant de répondre, et le raisonnement compte dans cette limite : laissez-leur de la marge. 16 000 est notre suggestion, pas une limite de BroadNet.
Token parameter name réglé sur max_tokens correspond au champ de la référence de l’API de BroadNet. Par défaut, le plugin le devine à partir du nom du modèle.
API Type reste sur Chat Completions. BroadNet ne liste pas la Responses API.
Transcription
Le plugin peut aussi ajouter des modèles de speech-to-text. BroadNet sert /v1/audio/transcriptions avec broadnet/cohere-transcribe-arabic pour l’arabe et broadnet/cohere-transcribe pour 14 langues. Le README du plugin indique que, pour le speech-to-text, il ajoute lui-même le chemin de version : son exemple utilise donc l’hôte sans /v1 (ici, https://inference.broadnet.ai). Nous n’avons pas testé ce chemin via Dify ; vérifiez-le d’abord avec un court fichier WAV. Voir le guide de transcription de l’arabe.
Dépannage
La vérification des identifiants échoue. Vérifiez la clé, l’API Base URL (elle se termine par /v1 pour les LLM) et le nom du modèle. Les modèles payants nécessitent une recharge ; le crédit de $5 ne couvre que broadnet/gemma-4-26b-a4b et les deux modèles Transcribe.
Réponses vides dans un workflow. Le max tokens du nœud LLM est trop bas pour un modèle à raisonnement. Augmentez-le. Pourquoi les réponses reviennent vides.
Le nœud Agent n’appelle jamais d’outils. Utilisez GLM 5.3 ou Qwen3.8 27B avec Function Call Type réglé sur Tool Call.
429 en charge. Une clé à l’usage autorise 30 requêtes par minute et 4 requêtes en cours. Les branches parallèles et les nœuds d’itération peuvent dépasser ce seuil ; réduisez leur parallélisme. Voir codes d’erreur et nouvelles tentatives.
Questions fréquentes
BroadNet fonctionne-t-il avec Dify Cloud comme avec Dify auto-hébergé ?
Oui. BroadNet Inference est un endpoint HTTPS public, Dify Cloud peut donc l’atteindre. Selon la documentation de Dify, seuls les propriétaires et administrateurs de l’espace de travail peuvent gérer les fournisseurs de modèles, et une clé ajoutée vaut pour tout l’espace de travail.
L’API Base URL doit-elle inclure /v1 ?
Oui, pour les modèles LLM. Les exemples du plugin utilisent une URL de base se terminant par /v1 pour les modèles de chat, et son README prévient que, pour certains autres types de modèles, il ajoute lui-même le chemin de version.
Quel Function Call Type choisir ?
Tool Call pour GLM 5.3 et Qwen3.8 27B, que BroadNet liste avec les outils. Choisissez Not Support pour DeepSeek V4.1 Flash, sauf si vous avez vous-même testé les appels d’outils avec ce modèle.
Les crédits IA de Dify s’appliquent-ils aux modèles BroadNet ?
Non. Selon la documentation de Dify, les crédits IA ne s’appliquent pas aux fournisseurs que vous utilisez avec votre propre compte. BroadNet facture la clé que vous saisissez.