openai-go è la libreria Go ufficiale di OpenAI. Accetta una base URL personalizzata con option.WithBaseURL, quindi può chiamare qualsiasi API compatibile con OpenAI. BroadNet Inference serve chat completions su https://inference.broadnet.ai/v1. BroadRouter è il sito di BroadNet; questa guida segue il README di openai-go per la v3.99.0.
Installazione
go get -u 'github.com/openai/openai-go/v3@v3.99.0'
export BROADNET_API_KEY='your-broadnet-key'
L’attuale release richiede Go 1.26 o successivo.
Chat completion
package main
import (
"context"
"fmt"
"os"
"github.com/openai/openai-go/v3"
"github.com/openai/openai-go/v3/option"
)
func main() {
client := openai.NewClient(
option.WithBaseURL("https://inference.broadnet.ai/v1"),
option.WithAPIKey(os.Getenv("BROADNET_API_KEY")),
)
resp, err := client.Chat.Completions.New(context.TODO(), openai.ChatCompletionNewParams{
Model: "broadnet/glm-5.3",
Messages: []openai.ChatCompletionMessageParamUnion{
openai.SystemMessage("You are a concise Go reviewer."),
openai.UserMessage("How do I check if a slice is empty in Go?"),
},
MaxTokens: openai.Int(2000), // reasoning counts toward this limit
})
if err != nil {
panic(err)
}
fmt.Println(resp.Choices[0].Message.Content)
}
Eseguilo con go run .. Se stampa una risposta, il test è superato: chiave, URL e ID del modello funzionano.
- Model è una semplice stringa.
openai.ChatModelè un alias di tipo perstring, quindi gli ID di BroadNet non richiedono conversioni. - Usa
Chat.Completions. Il README parte dalla Responses API (client.Responses.New), che BroadNet non elenca. La sua sezione su Chat Completions dice che quell’API è “supported indefinitely” (traduzione: supportata a tempo indeterminato). MaxTokensoMaxCompletionTokens. L’SDK segnamax_tokenscome deprecato a favore dimax_completion_tokens, ma il riferimento API di BroadNet descrivemax_tokens. UsaMaxTokens.SystemMessage, nonDeveloperMessage. L’esempio del README usaDeveloperMessage, che invia il ruolodeveloper. Il riferimento API di BroadNet non menziona quel ruolo, quindi usasystemeuser.
Streaming con usage
stream := client.Chat.Completions.NewStreaming(context.TODO(), openai.ChatCompletionNewParams{
Model: "broadnet/deepseek-v4.1-flash",
Messages: []openai.ChatCompletionMessageParamUnion{openai.UserMessage("Count from one to five.")},
MaxTokens: openai.Int(2000),
StreamOptions: openai.ChatCompletionStreamOptionsParam{
IncludeUsage: openai.Bool(true),
},
})
defer stream.Close()
for stream.Next() {
chunk := stream.Current()
if len(chunk.Choices) > 0 {
fmt.Print(chunk.Choices[0].Delta.Content)
}
if chunk.Usage.TotalTokens > 0 {
fmt.Printf("\n%d tokens\n", chunk.Usage.TotalTokens)
}
}
if err := stream.Err(); err != nil {
panic(err)
}
La documentazione di BroadNet dice che l’usage arriva nell’ultimo chunk quando stream_options.include_usage è true; quel chunk non ha choices, da qui il controllo sulla lunghezza. Per il formato sul filo vedi streaming delle chat completions.
Errori e nuovi tentativi
Per gli stati di errore l’SDK restituisce *openai.Error. Usa errors.As e leggi StatusCode:
var apierr *openai.Error
if errors.As(err, &apierr) && apierr.StatusCode == 429 {
// back off, then retry
}
Di default openai-go ritenta due volte alcuni errori, con un breve backoff esponenziale. Puoi cambiarlo con option.WithMaxRetries(n). I nuovi tentativi contano nei limiti di frequenza di BroadNet.
Risoluzione dei problemi
- 401. La chiave è sbagliata, scaduta o ha esaurito la quota. Se non hai passato
WithAPIKey, l’SDK ha usatoOPENAI_API_KEY. - 404. La base URL deve terminare con
/v1e la chiamata deve andare aChat.Completions, non aResponses. Poi controlla l’ID del modello. I modelli a pagamento richiedono una ricarica; il credito di $5 copre solobroadnet/gemma-4-26b-a4be i due modelli Transcribe. Contentvuoto. Il ragionamento ha consumato il budget di output. AlzaMaxTokens. Perché le risposte arrivano vuote.- 429. Una chiave a consumo consente 30 richieste al minuto e 4 in corso. Limita le goroutine che chiamano l’API nello stesso momento. Vedi errori e nuovi tentativi.
