openai-go es la biblioteca oficial de OpenAI para Go. Acepta una base URL personalizada con option.WithBaseURL, así que puede llamar a cualquier API compatible con OpenAI. BroadNet Inference ofrece chat completions en https://inference.broadnet.ai/v1. BroadRouter es el sitio de la propia BroadNet; esta guía sigue el README de openai-go para la v3.99.0.
Instalación
go get -u 'github.com/openai/openai-go/v3@v3.99.0'
export BROADNET_API_KEY='your-broadnet-key'
La versión actual requiere Go 1.26 o posterior.
Chat completion
package main
import (
"context"
"fmt"
"os"
"github.com/openai/openai-go/v3"
"github.com/openai/openai-go/v3/option"
)
func main() {
client := openai.NewClient(
option.WithBaseURL("https://inference.broadnet.ai/v1"),
option.WithAPIKey(os.Getenv("BROADNET_API_KEY")),
)
resp, err := client.Chat.Completions.New(context.TODO(), openai.ChatCompletionNewParams{
Model: "broadnet/glm-5.3",
Messages: []openai.ChatCompletionMessageParamUnion{
openai.SystemMessage("You are a concise Go reviewer."),
openai.UserMessage("How do I check if a slice is empty in Go?"),
},
MaxTokens: openai.Int(2000), // reasoning counts toward this limit
})
if err != nil {
panic(err)
}
fmt.Println(resp.Choices[0].Message.Content)
}
Ejecútelo con go run .. Si se imprime una respuesta, la prueba está hecha: la clave, la URL y el ID del modelo funcionan.
- Model es un string normal.
openai.ChatModeles un alias de tipo destring, así que los IDs de BroadNet no necesitan conversión. - Use
Chat.Completions. El README empieza por la Responses API (client.Responses.New), que BroadNet no ofrece. Su sección de Chat Completions dice que esa API está “supported indefinitely” (traducción: admitida de forma indefinida). MaxTokensfrente aMaxCompletionTokens. El SDK marcamax_tokenscomo obsoleto en favor demax_completion_tokens, pero la referencia de la API de BroadNet describemax_tokens. UseMaxTokens.SystemMessage, noDeveloperMessage. El ejemplo del README usaDeveloperMessage, que envía el roldeveloper. La referencia de la API de BroadNet no menciona ese rol, así que usesystemyuser.
Streaming con datos de uso
stream := client.Chat.Completions.NewStreaming(context.TODO(), openai.ChatCompletionNewParams{
Model: "broadnet/deepseek-v4.1-flash",
Messages: []openai.ChatCompletionMessageParamUnion{openai.UserMessage("Count from one to five.")},
MaxTokens: openai.Int(2000),
StreamOptions: openai.ChatCompletionStreamOptionsParam{
IncludeUsage: openai.Bool(true),
},
})
defer stream.Close()
for stream.Next() {
chunk := stream.Current()
if len(chunk.Choices) > 0 {
fmt.Print(chunk.Choices[0].Delta.Content)
}
if chunk.Usage.TotalTokens > 0 {
fmt.Printf("\n%d tokens\n", chunk.Usage.TotalTokens)
}
}
if err := stream.Err(); err != nil {
panic(err)
}
La documentación de BroadNet indica que el uso llega en el último chunk cuando stream_options.include_usage es true; ese chunk no tiene choices, de ahí la comprobación de longitud. Consulte streaming de chat completions para ver el formato de los datos.
Errores y reintentos
El SDK devuelve *openai.Error para los estados que no son de éxito. Use errors.As y lea StatusCode:
var apierr *openai.Error
if errors.As(err, &apierr) && apierr.StatusCode == 429 {
// back off, then retry
}
openai-go reintenta algunos errores dos veces por defecto, con un backoff exponencial corto. Cámbielo con option.WithMaxRetries(n). Los reintentos cuentan para los límites de tasa de BroadNet.
Solución de problemas
- 401. La clave es incorrecta, caducó o se quedó sin saldo. Si no pasó
WithAPIKey, el SDK usóOPENAI_API_KEY. - 404. La base URL debe terminar en
/v1, y la llamada debe ir aChat.Completions, no aResponses. Después revise el ID del modelo. Los modelos de pago requieren una recarga; el crédito de $5 cubre solobroadnet/gemma-4-26b-a4by los dos modelos Transcribe. Contentvacío. El razonamiento consumió el presupuesto de salida. AumenteMaxTokens. Por qué las respuestas llegan vacías.- 429. Una clave de pago por uso permite 30 solicitudes por minuto y 4 en curso. Limite las goroutines que llaman a la API al mismo tiempo. Consulte errores y reintentos.
