BroadRouter

Mastra のエージェントを BroadNet Inference で動かす

更新日

Mastra の Agent で、model を url が https://inference.broadnet.ai/v1、apiKey が BROADNET_API_KEY、id が broadnet/broadnet/glm-5.3 のオブジェクトにします。Mastra は id の最初の部分をプロバイダー名とみなして取り除くので、プレフィックスを二重にすると BroadNet には broadnet/glm-5.3 が届きます。カスタム URL はデフォルトで chat completions を使います。ツールには GLM 5.3 か Qwen3.8 27B を使ってください。

Mastra は、AI エージェントとワークフローのための TypeScript フレームワークです。組み込みのプロバイダーのほか、エージェントの model には、id と url を持つオブジェクトとして任意の OpenAI 互換エンドポイントを指定できます。BroadNet Inference は https://inference.broadnet.ai/v1 で標準的な chat completions を提供しているのでこの方法で使えますが、モデル ID に 1 つ注意点があります。BroadRouter は BroadNet 自身のサイトです。この記事は Mastra のモデルのドキュメントと @mastra/core 1.83.0 に基づいています。

インストール

npm install @mastra/core zod
export BROADNET_API_KEY='your-broadnet-key'

エージェントを接続する

import { Agent } from "@mastra/core/agent";

const broadnet = (model: string) => ({
  id: `broadnet/${model}`,              // Mastra strips the first segment
  url: "https://inference.broadnet.ai/v1",
  apiKey: process.env.BROADNET_API_KEY,
});

export const assistant = new Agent({
  id: "assistant",
  name: "Assistant",
  instructions: "You are a concise assistant.",
  model: broadnet("broadnet/glm-5.3"),     // sends broadnet/glm-5.3
});

const res = await assistant.generate("Give me three names for a Go linting tool.");
console.log(res.text);

プレフィックスを二重にする理由

Mastra のドキュメントによると、provider/model と書いた id ではプロバイダーを除いたモデル名がリモートに送られ、gateway/provider/model と書けば名前にプロバイダーが残ります。BroadNet の ID にはスラッシュが含まれるので、長い形式が必要です。私たちのテスト結果は次のとおりです。

Mastra の id BroadNet が受け取ったモデル ID
broadnet/glm-5.3 glm-5.3(誤り)
broadnet/broadnet/glm-5.3 broadnet/glm-5.3(正しい)

上のヘルパー関数が、この追加のセグメントを付けてくれます。

ツール

import { createTool } from "@mastra/core/tools";
import { z } from "zod";

const weather = createTool({
  id: "get_weather",
  description: "Get the weather for a city",
  inputSchema: z.object({ city: z.string() }),
  execute: async (input) => ({ city: input.city, tempC: 21 }),
});

const agent = new Agent({
  id: "weather",
  name: "Weather",
  instructions: "Use the weather tool to answer.",
  tools: { weather },
  model: broadnet("broadnet/glm-5.3"),
});

ツールを使うエージェントには broadnet/glm-5.3 か broadnet/qwen3.8-27b を使ってください。BroadNet のドキュメントでツールと構造化出力が記載されているのはこの 2 つのモデルだけです。

ストリーミング

const stream = await assistant.stream("Explain vector search in two sentences.");
for await (const chunk of stream.textStream) process.stdout.write(chunk);

重要な設定

  • url はベース URL で、/v1 で終わります。/chat/completions は Mastra が付けます。
  • api: "responses" は追加しないでください。 Mastra のドキュメントによると、これを指定すると /v1/responses に切り替わります。BroadNet は Responses API を記載していません。
  • 出力上限。 DeepSeek V4.1 Flash、GLM 5.3、Qwen3.8 27B は回答の前に推論し、推論も出力の上限に含まれます。出力トークンに上限を設ける場合は 2,000 以上にしてください。

モデルの選び方

エージェント モデル
ツール、構造化出力、ワークフロー broadnet/glm-5.3
ツールと画像入力、またはアラビア語のテキスト broadnet/qwen3.8-27b
定額プランでのテキストのみのステップ broadnet/deepseek-v4.1-flash

全モデルの料金。Mastra を使わずに Vercel AI SDK を使う場合は、AI SDK のガイドを参照してください。

テスト方法

2026-11-15 に Node 24 で @mastra/core 1.83.0 をインストールし、generate、stream、ツールを使うエージェントを、BroadNet の chat completions の形式で応答しツール呼び出しを返すローカルのモックサーバーに向けて実行しました。記録されたリクエストを確認したところ、すべての呼び出しが /v1/chat/completions に届き、apiKey の値が Bearer キーとして付いていました。上の表のプレフィックスのルールは、こうして見つけたものです。BroadNet のキーは持っていなかったため、実際のモデル出力はテストしていません。

トラブルシューティング

  • 404 やモデルが見つからない。 モデル ID のプレフィックスが落ちている可能性が高いです。id を broadnet/broadnet/glm-5.3 と書いてください。次に url が /v1 で終わっているか確認します。有料モデルにはチャージが必要です。$5 のクレジットで使えるのは broadnet/gemma-4-26b-a4b と 2 つの Transcribe モデルだけです。
  • 401。 プロセスに BROADNET_API_KEY が設定されていないか、キーが間違っている、または利用枠を使い切っています。
  • 返答が空になる。 出力の上限を推論で使い切っています。回答が空で返ってくる理由。
  • 並列ステップのあるワークフローで 429 になる。 従量課金のキーでは 1 分あたり 30 リクエスト、処理中のリクエストは同時に 4 個までです。プランのセッションは一度に 1 つずつ処理します。エラーとリトライを参照してください。

よくある質問

Mastra が broadnet/glm-5.3 ではなく glm-5.3 を送るのはなぜですか?

Mastra はモデルの id を「プロバイダー/モデル」として読み、最初のスラッシュより後ろの部分だけを送ります。私たちのテストでは、id を broadnet/glm-5.3 にすると glm-5.3 が送られ、BroadNet はこれを認識しません。id は broadnet/broadnet/glm-5.3 と書いてください。

Mastra の url はベース URL と chat completions の URL のどちらですか?

ベース URL です。Mastra のドキュメントでは OpenAI 互換エンドポイントのベース URL を使うよう説明されているので、/chat/completions を付けずに https://inference.broadnet.ai/v1 を指定します。

カスタム URL を使うと Mastra は Responses API を使いますか?

デフォルトでは使いません。Mastra のドキュメントによると、api を responses に設定しない限り、カスタムエンドポイントは chat completions を使います。BroadNet は chat completions を提供しているので、この設定は追加しないでください。

Mastra のツールは BroadNet で動きますか?

動きます。BroadNet がツールを記載しているモデル、GLM 5.3 か Qwen3.8 27B を使ってください。私たちのモックテストでは、エージェントがツールのスキーマを送り、ツールを実行して結果を返しました。

Markdown で読むChatGPT に聞くClaude に聞くPerplexity に聞く