openai-go ist die offizielle Go-Bibliothek von OpenAI. Sie akzeptiert mit option.WithBaseURL eine eigene Basis-URL und kann damit jede OpenAI-kompatible API aufrufen. BroadNet Inference bietet Chat Completions unter https://inference.broadnet.ai/v1. BroadRouter ist die eigene Website von BroadNet; diese Anleitung folgt dem README von openai-go für v3.99.0.
Installieren
go get -u 'github.com/openai/openai-go/v3@v3.99.0'
export BROADNET_API_KEY='your-broadnet-key'
Das aktuelle Release braucht Go 1.26 oder neuer.
Chat Completion
package main
import (
"context"
"fmt"
"os"
"github.com/openai/openai-go/v3"
"github.com/openai/openai-go/v3/option"
)
func main() {
client := openai.NewClient(
option.WithBaseURL("https://inference.broadnet.ai/v1"),
option.WithAPIKey(os.Getenv("BROADNET_API_KEY")),
)
resp, err := client.Chat.Completions.New(context.TODO(), openai.ChatCompletionNewParams{
Model: "broadnet/glm-5.3",
Messages: []openai.ChatCompletionMessageParamUnion{
openai.SystemMessage("You are a concise Go reviewer."),
openai.UserMessage("How do I check if a slice is empty in Go?"),
},
MaxTokens: openai.Int(2000), // reasoning counts toward this limit
})
if err != nil {
panic(err)
}
fmt.Println(resp.Choices[0].Message.Content)
}
Starten Sie es mit go run .. Eine ausgegebene Antwort ist Ihr Test: Schlüssel, URL und Modell-ID funktionieren.
- Model ist ein einfacher String.
openai.ChatModelist ein Typalias fürstring, daher brauchen BroadNet-IDs keine Umwandlung. - Nutzen Sie
Chat.Completions. Das README stellt die Responses API (client.Responses.New) an den Anfang, die BroadNet nicht listet. Im Abschnitt zu Chat Completions heißt es, diese API werde „supported indefinitely“ (Übersetzung: unbefristet unterstützt). MaxTokensoderMaxCompletionTokens. Das SDK markiertmax_tokenszugunsten vonmax_completion_tokensals veraltet, die API-Referenz von BroadNet beschreibt abermax_tokens. Verwenden SieMaxTokens.SystemMessage, nichtDeveloperMessage. Das Beispiel im README nutztDeveloperMessage, das die Rolledevelopersendet. Die API-Referenz von BroadNet erwähnt diese Rolle nicht, also verwenden Siesystemunduser.
Streaming mit Usage
stream := client.Chat.Completions.NewStreaming(context.TODO(), openai.ChatCompletionNewParams{
Model: "broadnet/deepseek-v4.1-flash",
Messages: []openai.ChatCompletionMessageParamUnion{openai.UserMessage("Count from one to five.")},
MaxTokens: openai.Int(2000),
StreamOptions: openai.ChatCompletionStreamOptionsParam{
IncludeUsage: openai.Bool(true),
},
})
defer stream.Close()
for stream.Next() {
chunk := stream.Current()
if len(chunk.Choices) > 0 {
fmt.Print(chunk.Choices[0].Delta.Content)
}
if chunk.Usage.TotalTokens > 0 {
fmt.Printf("\n%d tokens\n", chunk.Usage.TotalTokens)
}
}
if err := stream.Err(); err != nil {
panic(err)
}
Laut Dokumentation von BroadNet kommt die Usage im letzten Chunk, wenn stream_options.include_usage auf true steht; dieser Chunk hat keine Choices, daher die Längenprüfung. Das Wire-Format erklärt Chat Completions streamen.
Fehler und Retries
Das SDK gibt bei Statuscodes außerhalb des Erfolgsbereichs *openai.Error zurück. Verwenden Sie errors.As und lesen Sie StatusCode:
var apierr *openai.Error
if errors.As(err, &apierr) && apierr.StatusCode == 429 {
// back off, then retry
}
openai-go wiederholt manche Fehler standardmäßig zweimal mit kurzem exponentiellem Backoff. Ändern Sie das mit option.WithMaxRetries(n). Retries zählen zu den Rate Limits von BroadNet.
Fehlerbehebung
- 401. Der Schlüssel ist falsch, abgelaufen oder das Kontingent ist aufgebraucht. Wenn Sie kein
WithAPIKeyübergeben haben, hat das SDKOPENAI_API_KEYverwendet. - 404. Die Basis-URL muss auf
/v1enden, und der Aufruf muss anChat.Completionsgehen, nicht anResponses. Prüfen Sie danach die Modell-ID. Kostenpflichtige Modelle erfordern eine Aufladung; das Guthaben von $5 deckt nurbroadnet/gemma-4-26b-a4bund die beiden Transcribe-Modelle ab. - Leeres
Content. Reasoning hat das Ausgabebudget verbraucht. Erhöhen SieMaxTokens. Warum Antworten leer zurückkommen. - 429. Ein Pay-as-you-go-Schlüssel erlaubt 30 Anfragen pro Minute und 4 gleichzeitig laufende. Begrenzen Sie die Goroutinen, die die API gleichzeitig aufrufen. Siehe Fehler und Retries.
