openai-go は OpenAI 公式の Go ライブラリです。option.WithBaseURL でカスタムのベース URL を指定できるので、OpenAI 互換の API ならどれでも呼び出せます。BroadNet Inference は https://inference.broadnet.ai/v1 でチャット補完を提供しています。BroadRouter は BroadNet 自身のサイトです。この記事は openai-go v3.99.0 の README に従っています。
インストール
go get -u 'github.com/openai/openai-go/v3@v3.99.0'
export BROADNET_API_KEY='your-broadnet-key'
現在のリリースには Go 1.26 以上が必要です。
チャット補完
package main
import (
"context"
"fmt"
"os"
"github.com/openai/openai-go/v3"
"github.com/openai/openai-go/v3/option"
)
func main() {
client := openai.NewClient(
option.WithBaseURL("https://inference.broadnet.ai/v1"),
option.WithAPIKey(os.Getenv("BROADNET_API_KEY")),
)
resp, err := client.Chat.Completions.New(context.TODO(), openai.ChatCompletionNewParams{
Model: "broadnet/glm-5.3",
Messages: []openai.ChatCompletionMessageParamUnion{
openai.SystemMessage("You are a concise Go reviewer."),
openai.UserMessage("How do I check if a slice is empty in Go?"),
},
MaxTokens: openai.Int(2000), // reasoning counts toward this limit
})
if err != nil {
panic(err)
}
fmt.Println(resp.Choices[0].Message.Content)
}
go run . で実行します。回答が表示されればテストは成功で、キー、URL、モデル ID が正しく動いています。
- Model は普通の文字列です。
openai.ChatModelはstringの型エイリアスなので、BroadNet の ID を変換する必要はありません。 Chat.Completionsを使います。 README は最初に Responses API(client.Responses.New)を紹介していますが、BroadNet はこの API を記載していません。README の Chat Completions のセクションには、この API は “supported indefinitely”(訳:無期限にサポートされる)と書かれています。MaxTokensとMaxCompletionTokens。 SDK はmax_tokensを非推奨とし、max_completion_tokensを推奨していますが、BroadNet の API リファレンスに記載されているのはmax_tokensです。MaxTokensを使ってください。DeveloperMessageではなくSystemMessage。 README の例はDeveloperMessageを使っており、これはdeveloperロールを送ります。BroadNet の API リファレンスにはこのロールの記載がないので、systemとuserを使ってください。
使用量付きのストリーミング
stream := client.Chat.Completions.NewStreaming(context.TODO(), openai.ChatCompletionNewParams{
Model: "broadnet/deepseek-v4.1-flash",
Messages: []openai.ChatCompletionMessageParamUnion{openai.UserMessage("Count from one to five.")},
MaxTokens: openai.Int(2000),
StreamOptions: openai.ChatCompletionStreamOptionsParam{
IncludeUsage: openai.Bool(true),
},
})
defer stream.Close()
for stream.Next() {
chunk := stream.Current()
if len(chunk.Choices) > 0 {
fmt.Print(chunk.Choices[0].Delta.Content)
}
if chunk.Usage.TotalTokens > 0 {
fmt.Printf("\n%d tokens\n", chunk.Usage.TotalTokens)
}
}
if err := stream.Err(); err != nil {
panic(err)
}
BroadNet のドキュメントによると、stream_options.include_usage が true のとき、使用量は最後のチャンクで届きます。そのチャンクには choices がないため、長さをチェックしています。データ形式は chat completions のストリーミングを参照してください。
エラーとリトライ
成功以外のステータスでは、SDK は *openai.Error を返します。errors.As で取り出し、StatusCode を確認します。
var apierr *openai.Error
if errors.As(err, &apierr) && apierr.StatusCode == 429 {
// back off, then retry
}
openai-go はデフォルトで、一部のエラーを短い指数バックオフで 2 回リトライします。option.WithMaxRetries(n) で変更できます。リトライも BroadNet のレート制限にカウントされます。
トラブルシューティング
- 401。 キーが間違っている、期限切れ、または利用枠を使い切っています。
WithAPIKeyを渡していない場合、SDK はOPENAI_API_KEYを使っています。 - 404。 ベース URL は
/v1で終わっている必要があり、呼び出し先はResponsesではなくChat.Completionsでなければなりません。そのうえでモデル ID を確認してください。有料モデルにはチャージが必要です。$5 のクレジットで使えるのはbroadnet/gemma-4-26b-a4bと 2 つの Transcribe モデルだけです。 Contentが空。 推論(reasoning)が出力の上限を使い切っています。MaxTokensを上げてください。回答が空になる理由。- 429。 従量課金のキーは毎分 30 リクエスト、同時 4 リクエストまでです。API を同時に呼び出す goroutine の数を制限してください。エラーとリトライを参照してください。
