openai-go é a biblioteca Go oficial da OpenAI. Ela aceita uma base URL personalizada com option.WithBaseURL, então pode chamar qualquer API compatível com a OpenAI. A BroadNet Inference serve chat completions em https://inference.broadnet.ai/v1. O BroadRouter é o site da própria BroadNet; este guia segue o README do openai-go para a v3.99.0.
Instalação
go get -u 'github.com/openai/openai-go/v3@v3.99.0'
export BROADNET_API_KEY='your-broadnet-key'
A versão atual exige Go 1.26 ou mais recente.
Chat completion
package main
import (
"context"
"fmt"
"os"
"github.com/openai/openai-go/v3"
"github.com/openai/openai-go/v3/option"
)
func main() {
client := openai.NewClient(
option.WithBaseURL("https://inference.broadnet.ai/v1"),
option.WithAPIKey(os.Getenv("BROADNET_API_KEY")),
)
resp, err := client.Chat.Completions.New(context.TODO(), openai.ChatCompletionNewParams{
Model: "broadnet/glm-5.3",
Messages: []openai.ChatCompletionMessageParamUnion{
openai.SystemMessage("You are a concise Go reviewer."),
openai.UserMessage("How do I check if a slice is empty in Go?"),
},
MaxTokens: openai.Int(2000), // reasoning counts toward this limit
})
if err != nil {
panic(err)
}
fmt.Println(resp.Choices[0].Message.Content)
}
Rode com go run .. Se aparecer uma resposta, o teste passou: chave, URL e ID do modelo funcionam.
- Model é uma string simples.
openai.ChatModelé um alias de tipo parastring, então os IDs da BroadNet não precisam de conversão. - Use
Chat.Completions. O README começa pela Responses API (client.Responses.New), que a BroadNet não lista. A seção de Chat Completions diz que essa API é “supported indefinitely” (tradução: suportada por tempo indeterminado). MaxTokensouMaxCompletionTokens. O SDK marcamax_tokenscomo obsoleto em favor demax_completion_tokens, mas a referência da API da BroadNet descrevemax_tokens. UseMaxTokens.SystemMessage, nãoDeveloperMessage. O exemplo do README usaDeveloperMessage, que envia o papeldeveloper. A referência da API da BroadNet não menciona esse papel, então usesystemeuser.
Streaming com usage
stream := client.Chat.Completions.NewStreaming(context.TODO(), openai.ChatCompletionNewParams{
Model: "broadnet/deepseek-v4.1-flash",
Messages: []openai.ChatCompletionMessageParamUnion{openai.UserMessage("Count from one to five.")},
MaxTokens: openai.Int(2000),
StreamOptions: openai.ChatCompletionStreamOptionsParam{
IncludeUsage: openai.Bool(true),
},
})
defer stream.Close()
for stream.Next() {
chunk := stream.Current()
if len(chunk.Choices) > 0 {
fmt.Print(chunk.Choices[0].Delta.Content)
}
if chunk.Usage.TotalTokens > 0 {
fmt.Printf("\n%d tokens\n", chunk.Usage.TotalTokens)
}
}
if err := stream.Err(); err != nil {
panic(err)
}
A documentação da BroadNet diz que o usage chega no último chunk quando stream_options.include_usage é true; esse chunk não tem choices, daí a verificação do tamanho. Para o formato no fio, veja streaming de chat completions.
Erros e novas tentativas
Para status de erro, o SDK retorna *openai.Error. Use errors.As e leia StatusCode:
var apierr *openai.Error
if errors.As(err, &apierr) && apierr.StatusCode == 429 {
// back off, then retry
}
Por padrão, o openai-go tenta de novo alguns erros duas vezes, com um backoff exponencial curto. Mude isso com option.WithMaxRetries(n). As novas tentativas contam nos limites de taxa da BroadNet.
Solução de problemas
- 401. A chave está errada, expirou ou ficou sem cota. Se você não passou
WithAPIKey, o SDK usouOPENAI_API_KEY. - 404. A base URL precisa terminar em
/v1, e a chamada precisa ir paraChat.Completions, não paraResponses. Depois confira o ID do modelo. Os modelos pagos exigem uma recarga; o crédito de $5 cobre sóbroadnet/gemma-4-26b-a4be os dois modelos Transcribe. Contentvazio. O raciocínio gastou o orçamento de saída. AumenteMaxTokens. Por que as respostas voltam vazias.- 429. Uma chave de pagamento por uso permite 30 requisições por minuto e 4 em andamento. Limite as goroutines que chamam a API ao mesmo tempo. Veja erros e novas tentativas.
