BroadRouter

Faire tourner smolagents sur BroadNet Inference avec OpenAIModel

Mis à jour

Créez l’OpenAIModel de smolagents avec model_id réglé sur un ID BroadNet comme broadnet/glm-5.3, api_base sur https://inference.broadnet.ai/v1 et api_key sur votre clé BroadNet, puis passez-le à CodeAgent ou ToolCallingAgent. CodeAgent écrit du Python au lieu d’appels d’outils natifs : il peut donc tourner sur DeepSeek V4.1 Flash. ToolCallingAgent exige GLM 5.3 ou Qwen3.8 27B.

smolagents est la petite bibliothèque Python de Hugging Face pour les agents. Sa classe OpenAIModel « connects to an OpenAI-compatible API server » (traduction : « se connecte à un serveur d’API compatible OpenAI »), avec api_base pour l’URL. BroadNet Inference sert des chat completions à l’adresse https://inference.broadnet.ai/v1 : cela fonctionne directement. BroadRouter est le site de BroadNet ; ce guide suit la documentation de smolagents 1.26.0.

Installation

pip install smolagents
export BROADNET_API_KEY='your-broadnet-key'

CodeAgent

import os
from smolagents import OpenAIModel, CodeAgent

model = OpenAIModel(
    model_id="broadnet/deepseek-v4.1-flash",
    api_base="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,
)

agent = CodeAgent(tools=[], model=model)
print(agent.run("What is 6 * 7? Use Python to check."))

CodeAgent demande au modèle d’écrire du Python entre des balises <code> et l’exécute en local. La requête est une simple chat completion avec des séquences d’arrêt comme </code>, sans champ tools. Elle ne dépend donc pas de l’appel d’outils natif et peut tourner sur broadnet/deepseek-v4.1-flash, le modèle des forfaits illimités de BroadNet. La qualité du code varie tout de même selon le modèle : testez vos propres tâches.

CodeAgent exécute le code que le modèle écrit. Lisez les recommandations de smolagents sur l’exécution sécurisée du code avant de lui donner des outils qui touchent aux fichiers, au réseau ou aux identifiants.

ToolCallingAgent

from smolagents import ToolCallingAgent, tool

@tool
def get_weather(city: str) -> str:
    """Get the weather for a city.

    Args:
        city: The city name.
    """
    return f"21C in {city}"

model = OpenAIModel(
    model_id="broadnet/glm-5.3",
    api_base="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,
)
agent = ToolCallingAgent(tools=[get_weather], model=model)
print(agent.run("What's the weather in Riyadh?"))

ToolCallingAgent envoie vos outils, plus son propre outil final_answer, sous forme de schémas de fonctions avec tool_choice: "required". Utilisez broadnet/glm-5.3 ou broadnet/qwen3.8-27b ; la documentation de BroadNet n’indique les outils que pour ces deux modèles.

Quel modèle choisir ?

Agent Modèle
CodeAgent, longues exécutions avec un forfait à prix fixe broadnet/deepseek-v4.1-flash
ToolCallingAgent broadnet/glm-5.3
L’un ou l’autre avec entrée d’images broadnet/qwen3.8-27b

Une session de forfait traite une requête à la fois, et un agent envoie ses étapes l’une après l’autre : une session convient donc à un agent. Les prix de chaque modèle.

Comment nous l’avons testé

Le 15 novembre 2026, nous avons installé smolagents 1.26.0 dans un environnement virtuel vierge et exécuté les deux agents contre un serveur fictif local qui parle le format chat completions de BroadNet. Le CodeAgent avec l’ID DeepSeek a reçu une réponse en code, l’a exécutée et a renvoyé 42. Ses requêtes contenaient max_tokens: 4000, des séquences d’arrêt et aucun outil. Pour le ToolCallingAgent, nous avons vérifié la forme de la requête : l’ID de modèle a été envoyé inchangé, avec les deux schémas d’outils et tool_choice: "required". smolagents renvoie les résultats des outils sous forme de messages utilisateur. Notre serveur fictif ne suivait pas ce format : nous n’avons donc pas mené cet agent jusqu’à une réponse finale. Faute de clé BroadNet, nous n’avons pas testé de vraie sortie de modèle.

Dépannage

  • 401. La clé est erronée, a expiré ou a épuisé son allocation.
  • 404. api_base doit se terminer par /v1. Vérifiez l’ID du modèle. Les modèles payants nécessitent une recharge ; le crédit de $5 ne couvre que broadnet/gemma-4-26b-a4b et les deux modèles Transcribe.
  • « Make sure to provide correct code blobs ». La réponse du modèle ne contenait aucun bloc de code. Augmentez max_tokens, car le raisonnement y est décompté, ou essayez un autre modèle. Pourquoi les réponses reviennent vides.
  • ToolCallingAgent ne termine jamais. Passez à broadnet/glm-5.3 ou broadnet/qwen3.8-27b.
  • 429. Une clé à l’usage autorise 30 requêtes par minute. smolagents peut se limiter lui-même avec requests_per_minute. Voir codes d’erreur et nouvelles tentatives.

Questions fréquentes

Faut-il utiliser OpenAIModel ou OpenAIServerModel ?

smolagents 1.26 documente OpenAIModel pour tout serveur compatible OpenAI. Le paquet exporte encore OpenAIServerModel, mais la documentation décrit OpenAIModel.

smolagents peut-il tourner avec le forfait illimité de BroadNet ?

Les forfaits couvrent DeepSeek V4.1 Flash. BroadNet n’indique pas l’appel d’outils pour ce modèle, mais CodeAgent n’a pas besoin d’appels d’outils natifs : il demande du code Python au modèle. Dans notre test sur serveur fictif, un CodeAgent avec l’ID DeepSeek a envoyé de simples requêtes de chat sans champ tools.

Pourquoi ToolCallingAgent exige-t-il GLM 5.3 ou Qwen3.8 27B ?

Il envoie les outils sous forme de schémas de fonctions OpenAI avec tool_choice réglé sur required. La documentation de BroadNet n’indique les outils que pour GLM 5.3 et Qwen3.8 27B.

Comment passer max_tokens ou temperature ?

En arguments nommés d’OpenAIModel. D’après la documentation de smolagents, les arguments supplémentaires sont transmis à chaque appel de complétion. Dans notre test, max_tokens=4000 a été envoyé à chaque requête.

Lire en MarkdownDemander à ChatGPTDemander à ClaudeDemander à Perplexity