BroadRouter
Começar

Como conectar o Open WebUI à BroadNet Inference

Atualizado em

No Open WebUI, vá em Settings > Connections, na seção de administração, clique em Add Connection em Manage OpenAI API Connections, defina URL como https://inference.broadnet.ai/v1 e API Key com a sua chave da BroadNet, depois adicione IDs de modelo como broadnet/glm-5.3 à allowlist Model IDs e salve.

O Open WebUI é uma interface de chat auto-hospedada. Ele se conecta a qualquer provedor que implemente o protocolo de chat completions da OpenAI, e a BroadNet Inference implementa. Os passos seguem o guia do Open WebUI para provedores compatíveis com a OpenAI.

Configuração

  1. Pegue uma chave da BroadNet. Para uma interface de chat usada por várias pessoas, o certo é uma chave de pagamento por uso. Veja chaves de API e listas de IPs permitidos.

  2. Abra a página de conexões. Vá em Settings > Connections, na seção de administração, e encontre Manage OpenAI API Connections.

  3. Clique em Add Connection e preencha:

    Campo Valor
    URL https://inference.broadnet.ai/v1 (sem barra no final)
    API Key a sua chave da BroadNet
    Model IDs adicione cada ID abaixo, um de cada vez, com o ícone +
  4. Adicione os IDs de modelo manualmente. Digite broadnet/glm-5.3, clique em + e repita para os outros que quiser. A documentação da BroadNet descreve GET /v1/models como metadados públicos do catálogo para monitores, então não conte com ele para preencher o seletor de modelos.

  5. Clique em Save. A documentação do Open WebUI observa que salvar não testa a conexão.

  6. Comece um chat e escolha o modelo no seletor de modelos.

Com variáveis de ambiente

Se você roda o Open WebUI no Docker, pode configurar a conexão na inicialização:

OPENAI_API_BASE_URL=https://inference.broadnet.ai/v1
OPENAI_API_KEY=your-broadnet-key

Para adicionar a BroadNet ao lado de uma conexão OpenAI que já existe, use as formas no plural, com os valores separados por ponto e vírgula: OPENAI_API_BASE_URLS e OPENAI_API_KEYS. OPENAI_API_CONFIGS define opções por conexão, como model_ids, indexadas pela posição da conexão nessa lista:

OPENAI_API_CONFIGS='{"0": {"enable": true, "model_ids": ["broadnet/glm-5.3", "broadnet/qwen3.8-27b"]}}'

A referência de variáveis de ambiente do Open WebUI marca essas variáveis como ConfigVar. Elas são lidas na primeira inicialização e salvas no banco de dados. Daí em diante, vale o painel de administração. Edite a conexão em Settings > Connections, na seção de administração, ou defina ENABLE_PERSISTENT_CONFIG=False se quiser que o ambiente seja aplicado a cada inicialização.

Qual modelo escolher

Uso Modelo Contexto
Chat geral, ferramentas, JSON broadnet/glm-5.3 1.048.576
Perguntas sobre imagens, árabe broadnet/qwen3.8-27b 262.144
Documentos longos, imagens broadnet/deepseek-v4.1-flash 1.048.576
Custo baixo, crédito gratuito broadnet/gemma-4-26b-a4b 32.768

A BroadNet testou o Qwen3.8 27B em árabe, incluindo os dialetos do Golfo e egípcio; veja como escolher um LLM para árabe. O Gemma 4 VL 26B é o único modelo de chat que funciona com o crédito inicial de $5; o crédito também cobre os dois modelos Transcribe. Os preços de cada um estão na página de preços.

O Open WebUI repassa parâmetros padrão como temperature e max_tokens e suporta uso de ferramentas quando o modelo e o servidor suportam tools. A BroadNet lista ferramentas para GLM 5.3 e Qwen3.8 27B.

Solução de problemas

  • Verify Connection falha com 400, 401 ou 403. O botão de verificação do Open WebUI chama /models. A documentação dele diz que chat completions pode funcionar mesmo assim. Adicione os IDs à allowlist e teste um chat. Se o chat também retornar 401, a chave está errada, expirou ou ficou sem cota de pagamento por uso.
  • O modelo aparece na lista, mas a primeira mensagem falha. Confira se o ID é exatamente o da BroadNet, com o prefixo broadnet/. GLM 5.3, Qwen3.8 27B e DeepSeek V4.1 Flash exigem uma recarga.
  • Respostas vazias. Os modelos de raciocínio (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) gastam primeiro tokens de saída no raciocínio. Se você definiu max_tokens nos Advanced Params do modelo, aumente ou apague o valor. Por que as respostas vêm vazias.
  • 429 quando várias pessoas usam o chat. Uma chave de pagamento por uso permite 30 requisições por minuto e 4 ao mesmo tempo. O Open WebUI também faz chamadas em segundo plano, como a geração de títulos dos chats, com a mesma chave. Veja erros e novas tentativas.
  • Variáveis de ambiente alteradas não fazem nada. A primeira inicialização salvou os valores antigos. Edite a conexão no painel de administração ou veja a seção sobre variáveis de ambiente acima.
  • Usando uma chave de plano. Uma sessão do plano ilimitado roda uma requisição por vez, e as chaves não podem ser compartilhadas. Serve para a instância pessoal de uma pessoa; as requisições de outros usuários entram em fila.

Perguntas frequentes

Por que o Verify Connection falha, mas o chat funciona?

O botão de verificação do Open WebUI chama o endpoint /models do provedor. A documentação dele diz que uma verificação com falha não significa que o chat está quebrado. Adicione manualmente os IDs de modelo da BroadNet à allowlist Model IDs.

Dá para configurar a conexão com variáveis de ambiente?

Sim. Defina OPENAI_API_BASE_URL como https://inference.broadnet.ai/v1 e OPENAI_API_KEY com a sua chave da BroadNet. O Open WebUI salva esses valores na primeira inicialização, então mudanças posteriores nas variáveis são ignoradas, a menos que ENABLE_PERSISTENT_CONFIG seja False.

Por que o novo valor de OPENAI_API_BASE_URL não fez efeito?

O Open WebUI trata essa variável como ConfigVar. Depois da primeira inicialização, ele usa o valor salvo no banco de dados. Mude a URL em Settings > Connections, na seção de administração, ou defina ENABLE_PERSISTENT_CONFIG=False para ler o ambiente a cada inicialização.

Minha equipe toda pode compartilhar uma chave do plano ilimitado no Open WebUI?

Não. Os planos da BroadNet não permitem compartilhar chaves, e uma sessão do plano roda uma requisição por vez. Para um Open WebUI compartilhado, use uma chave de pagamento por uso.

Ler em MarkdownPerguntar ao ChatGPTPerguntar ao ClaudePerguntar ao Perplexity