BroadRouter
Começar

Chamar a BroadNet Inference em Go com o SDK openai-go

Atualizado em

Instale github.com/openai/openai-go/v3 e crie o cliente com option.WithBaseURL("https://inference.broadnet.ai/v1") e option.WithAPIKey com a sua chave da BroadNet. Chame client.Chat.Completions.New com um ID de modelo da BroadNet, como broadnet/glm-5.3, passado como string simples. Use chat completions, não a Responses API, e defina MaxTokens com folga para o raciocínio.

openai-go é a biblioteca Go oficial da OpenAI. Ela aceita uma base URL personalizada com option.WithBaseURL, então pode chamar qualquer API compatível com a OpenAI. A BroadNet Inference serve chat completions em https://inference.broadnet.ai/v1. O BroadRouter é o site da própria BroadNet; este guia segue o README do openai-go para a v3.99.0.

Instalação

go get -u 'github.com/openai/openai-go/v3@v3.99.0'
export BROADNET_API_KEY='your-broadnet-key'

A versão atual exige Go 1.26 ou mais recente.

Chat completion

package main

import (
	"context"
	"fmt"
	"os"

	"github.com/openai/openai-go/v3"
	"github.com/openai/openai-go/v3/option"
)

func main() {
	client := openai.NewClient(
		option.WithBaseURL("https://inference.broadnet.ai/v1"),
		option.WithAPIKey(os.Getenv("BROADNET_API_KEY")),
	)

	resp, err := client.Chat.Completions.New(context.TODO(), openai.ChatCompletionNewParams{
		Model: "broadnet/glm-5.3",
		Messages: []openai.ChatCompletionMessageParamUnion{
			openai.SystemMessage("You are a concise Go reviewer."),
			openai.UserMessage("How do I check if a slice is empty in Go?"),
		},
		MaxTokens: openai.Int(2000), // reasoning counts toward this limit
	})
	if err != nil {
		panic(err)
	}
	fmt.Println(resp.Choices[0].Message.Content)
}

Rode com go run .. Se aparecer uma resposta, o teste passou: chave, URL e ID do modelo funcionam.

  • Model é uma string simples. openai.ChatModel é um alias de tipo para string, então os IDs da BroadNet não precisam de conversão.
  • Use Chat.Completions. O README começa pela Responses API (client.Responses.New), que a BroadNet não lista. A seção de Chat Completions diz que essa API é “supported indefinitely” (tradução: suportada por tempo indeterminado).
  • MaxTokens ou MaxCompletionTokens. O SDK marca max_tokens como obsoleto em favor de max_completion_tokens, mas a referência da API da BroadNet descreve max_tokens. Use MaxTokens.
  • SystemMessage, não DeveloperMessage. O exemplo do README usa DeveloperMessage, que envia o papel developer. A referência da API da BroadNet não menciona esse papel, então use system e user.

Streaming com usage

stream := client.Chat.Completions.NewStreaming(context.TODO(), openai.ChatCompletionNewParams{
	Model:     "broadnet/deepseek-v4.1-flash",
	Messages:  []openai.ChatCompletionMessageParamUnion{openai.UserMessage("Count from one to five.")},
	MaxTokens: openai.Int(2000),
	StreamOptions: openai.ChatCompletionStreamOptionsParam{
		IncludeUsage: openai.Bool(true),
	},
})
defer stream.Close()

for stream.Next() {
	chunk := stream.Current()
	if len(chunk.Choices) > 0 {
		fmt.Print(chunk.Choices[0].Delta.Content)
	}
	if chunk.Usage.TotalTokens > 0 {
		fmt.Printf("\n%d tokens\n", chunk.Usage.TotalTokens)
	}
}
if err := stream.Err(); err != nil {
	panic(err)
}

A documentação da BroadNet diz que o usage chega no último chunk quando stream_options.include_usage é true; esse chunk não tem choices, daí a verificação do tamanho. Para o formato no fio, veja streaming de chat completions.

Erros e novas tentativas

Para status de erro, o SDK retorna *openai.Error. Use errors.As e leia StatusCode:

var apierr *openai.Error
if errors.As(err, &apierr) && apierr.StatusCode == 429 {
	// back off, then retry
}

Por padrão, o openai-go tenta de novo alguns erros duas vezes, com um backoff exponencial curto. Mude isso com option.WithMaxRetries(n). As novas tentativas contam nos limites de taxa da BroadNet.

Solução de problemas

  • 401. A chave está errada, expirou ou ficou sem cota. Se você não passou WithAPIKey, o SDK usou OPENAI_API_KEY.
  • 404. A base URL precisa terminar em /v1, e a chamada precisa ir para Chat.Completions, não para Responses. Depois confira o ID do modelo. Os modelos pagos exigem uma recarga; o crédito de $5 cobre só broadnet/gemma-4-26b-a4b e os dois modelos Transcribe.
  • Content vazio. O raciocínio gastou o orçamento de saída. Aumente MaxTokens. Por que as respostas voltam vazias.
  • 429. Uma chave de pagamento por uso permite 30 requisições por minuto e 4 em andamento. Limite as goroutines que chamam a API ao mesmo tempo. Veja erros e novas tentativas.

Perguntas frequentes

Posso definir a URL da BroadNet com variáveis de ambiente em vez de options?

Sim. O openai-go lê OPENAI_API_KEY e OPENAI_BASE_URL por padrão, então openai.NewClient() sem options funciona se as duas tiverem os valores da BroadNet. Um option.WithBaseURL explícito tem prioridade sobre OPENAI_BASE_URL.

Como passo um ID de modelo da BroadNet se Model espera openai.ChatModel?

No openai-go, ChatModel é um alias de tipo para string, então Model "broadnet/glm-5.3" compila do jeito que está.

Por que usar SystemMessage e não DeveloperMessage?

DeveloperMessage envia o papel developer, que a OpenAI criou para os próprios modelos. A referência da API da BroadNet não menciona esse papel, então o papel padrão system é a escolha mais segura.

Qual versão do Go eu preciso?

O openai-go v3 atual exige Go 1.26 ou mais recente. O README diz para fixar a v3.74.0 se você precisar continuar no Go 1.25.

Ler em MarkdownPerguntar ao ChatGPTPerguntar ao ClaudePerguntar ao Perplexity