BroadRouter

Utiliser des agents Mastra avec BroadNet Inference

Mis à jour

Dans un Agent Mastra, réglez model sur un objet avec url https://inference.broadnet.ai/v1, apiKey lu depuis BROADNET_API_KEY et id broadnet/broadnet/glm-5.3. Mastra prend la première partie de l’id pour un nom de fournisseur et la retire : le préfixe doublé envoie donc broadnet/glm-5.3 à BroadNet. Les URL personnalisées utilisent chat completions par défaut. Pour les outils, prenez GLM 5.3 ou Qwen3.8 27B.

Mastra est un framework TypeScript pour les agents et workflows d’IA. Outre ses fournisseurs intégrés, le model d’un agent peut être n’importe quel point de terminaison compatible OpenAI, donné sous forme d’objet avec id et url. BroadNet Inference sert des chat completions standard à https://inference.broadnet.ai/v1 et fonctionne donc de cette façon, avec une subtilité dans l’ID du modèle. BroadRouter est le site de BroadNet ; ce guide suit la documentation des modèles de Mastra et @mastra/core 1.83.0.

Installation

npm install @mastra/core zod
export BROADNET_API_KEY='your-broadnet-key'

Connecter un agent

import { Agent } from "@mastra/core/agent";

const broadnet = (model: string) => ({
  id: `broadnet/${model}`,              // Mastra strips the first segment
  url: "https://inference.broadnet.ai/v1",
  apiKey: process.env.BROADNET_API_KEY,
});

export const assistant = new Agent({
  id: "assistant",
  name: "Assistant",
  instructions: "You are a concise assistant.",
  model: broadnet("broadnet/glm-5.3"),     // sends broadnet/glm-5.3
});

const res = await assistant.generate("Give me three names for a Go linting tool.");
console.log(res.text);

Pourquoi doubler le préfixe

D’après la documentation de Mastra, un id écrit provider/model envoie un nom de modèle nu au serveur distant, tandis que gateway/provider/model garde le fournisseur dans le nom. Les ID de BroadNet contiennent une barre oblique : ils ont donc besoin de la forme longue. Lors de notre test :

id Mastra ID de modèle reçu par BroadNet
broadnet/glm-5.3 glm-5.3 (incorrect)
broadnet/broadnet/glm-5.3 broadnet/glm-5.3 (correct)

La fonction utilitaire ci-dessus ajoute ce segment supplémentaire pour vous.

Outils

import { createTool } from "@mastra/core/tools";
import { z } from "zod";

const weather = createTool({
  id: "get_weather",
  description: "Get the weather for a city",
  inputSchema: z.object({ city: z.string() }),
  execute: async (input) => ({ city: input.city, tempC: 21 }),
});

const agent = new Agent({
  id: "weather",
  name: "Weather",
  instructions: "Use the weather tool to answer.",
  tools: { weather },
  model: broadnet("broadnet/glm-5.3"),
});

Utilisez broadnet/glm-5.3 ou broadnet/qwen3.8-27b pour les agents avec outils. La documentation de BroadNet indique les outils et la sortie structurée pour ces deux modèles uniquement.

Streaming

const stream = await assistant.stream("Explain vector search in two sentences.");
for await (const chunk of stream.textStream) process.stdout.write(chunk);

Les réglages qui comptent

  • url est l’URL de base, terminée par /v1. Mastra y ajoute /chat/completions.
  • N’ajoutez pas api: "responses". D’après la documentation de Mastra, cela bascule vers /v1/responses. BroadNet ne liste pas l’API Responses.
  • Limite de sortie. DeepSeek V4.1 Flash, GLM 5.3 et Qwen3.8 27B raisonnent avant de répondre, et ce raisonnement est décompté de la limite de sortie. Si vous plafonnez les tokens de sortie, laissez-en 2 000 ou plus.

Quel modèle choisir ?

Agent Modèle
Outils, sortie structurée, workflows broadnet/glm-5.3
Outils plus entrée image ou texte arabe broadnet/qwen3.8-27b
Étapes texte seul sur un forfait à prix fixe broadnet/deepseek-v4.1-flash

Les prix de chaque modèle. Pour le Vercel AI SDK sans Mastra, voir le guide de l’AI SDK.

Comment nous l’avons testé

Le 15 novembre 2026, nous avons installé @mastra/core 1.83.0 avec Node 24 et exécuté generate, stream et un agent avec outil face à un serveur fictif local qui parle le format chat completions de BroadNet et renvoie des appels d’outils. Nous avons lu les requêtes journalisées. Chaque appel est arrivé sur /v1/chat/completions avec une clé Bearer issue de apiKey. C’est ainsi que nous avons trouvé la règle de préfixe du tableau ci-dessus. Faute de clé BroadNet, nous n’avons pas testé de vraie sortie de modèle.

Dépannage

  • 404 ou modèle introuvable. L’ID du modèle a probablement perdu son préfixe. Écrivez l’id sous la forme broadnet/broadnet/glm-5.3. Vérifiez ensuite que url se termine par /v1. Les modèles payants nécessitent une recharge ; le crédit de $5 ne couvre que broadnet/gemma-4-26b-a4b et les deux modèles Transcribe.
  • 401. BROADNET_API_KEY n’est pas défini dans le processus, ou la clé est erronée ou a épuisé son allocation.
  • Réponses vides. Le raisonnement a consommé le budget de sortie. Pourquoi les réponses reviennent vides.
  • 429 dans des workflows à étapes parallèles. Une clé à l’usage autorise 30 requêtes par minute et 4 requêtes en cours ; une session de forfait les traite une par une. Voir codes d’erreur et nouvelles tentatives.

Questions fréquentes

Pourquoi Mastra envoie-t-il glm-5.3 au lieu de broadnet/glm-5.3 ?

Mastra lit l’id du modèle comme fournisseur/modèle et n’envoie que la partie située après la première barre oblique. Avec l’id broadnet/glm-5.3, il a envoyé glm-5.3 lors de notre test, ce que BroadNet ne reconnaît pas. Écrivez l’id sous la forme broadnet/broadnet/glm-5.3.

L’url de Mastra doit-elle être l’URL de base ou celle de chat completions ?

L’URL de base. D’après la documentation de Mastra, il faut indiquer l’URL de base du point de terminaison compatible OpenAI : utilisez donc https://inference.broadnet.ai/v1 sans /chat/completions.

Mastra utilise-t-il l’API Responses avec une URL personnalisée ?

Pas par défaut. D’après la documentation de Mastra, les points de terminaison personnalisés utilisent chat completions, sauf si vous ajoutez api réglé sur responses. Ne l’ajoutez pas pour BroadNet, qui sert chat completions.

Les outils Mastra fonctionnent-ils sur BroadNet ?

Oui, sur un modèle pour lequel BroadNet indique les outils, GLM 5.3 ou Qwen3.8 27B. Lors de notre test avec un serveur fictif, l’agent a envoyé le schéma de l’outil, exécuté l’outil et renvoyé le résultat.

Lire en MarkdownDemander à ChatGPTDemander à ClaudeDemander à Perplexity