O Open WebUI é uma interface de chat auto-hospedada. Ele se conecta a qualquer provedor que implemente o protocolo de chat completions da OpenAI, e a BroadNet Inference implementa. Os passos seguem o guia do Open WebUI para provedores compatíveis com a OpenAI.
Configuração
-
Pegue uma chave da BroadNet. Para uma interface de chat usada por várias pessoas, o certo é uma chave de pagamento por uso. Veja chaves de API e listas de IPs permitidos.
-
Abra a página de conexões. Vá em Settings > Connections, na seção de administração, e encontre Manage OpenAI API Connections.
-
Clique em Add Connection e preencha:
Campo Valor URL https://inference.broadnet.ai/v1(sem barra no final)API Key a sua chave da BroadNet Model IDs adicione cada ID abaixo, um de cada vez, com o ícone + -
Adicione os IDs de modelo manualmente. Digite
broadnet/glm-5.3, clique em + e repita para os outros que quiser. A documentação da BroadNet descreveGET /v1/modelscomo metadados públicos do catálogo para monitores, então não conte com ele para preencher o seletor de modelos. -
Clique em Save. A documentação do Open WebUI observa que salvar não testa a conexão.
-
Comece um chat e escolha o modelo no seletor de modelos.
Com variáveis de ambiente
Se você roda o Open WebUI no Docker, pode configurar a conexão na inicialização:
OPENAI_API_BASE_URL=https://inference.broadnet.ai/v1
OPENAI_API_KEY=your-broadnet-key
Para adicionar a BroadNet ao lado de uma conexão OpenAI que já existe, use as formas no plural, com os valores separados por ponto e vírgula: OPENAI_API_BASE_URLS e OPENAI_API_KEYS. OPENAI_API_CONFIGS define opções por conexão, como model_ids, indexadas pela posição da conexão nessa lista:
OPENAI_API_CONFIGS='{"0": {"enable": true, "model_ids": ["broadnet/glm-5.3", "broadnet/qwen3.8-27b"]}}'
A referência de variáveis de ambiente do Open WebUI marca essas variáveis como ConfigVar. Elas são lidas na primeira inicialização e salvas no banco de dados. Daí em diante, vale o painel de administração. Edite a conexão em Settings > Connections, na seção de administração, ou defina ENABLE_PERSISTENT_CONFIG=False se quiser que o ambiente seja aplicado a cada inicialização.
Qual modelo escolher
| Uso | Modelo | Contexto |
|---|---|---|
| Chat geral, ferramentas, JSON | broadnet/glm-5.3 |
1.048.576 |
| Perguntas sobre imagens, árabe | broadnet/qwen3.8-27b |
262.144 |
| Documentos longos, imagens | broadnet/deepseek-v4.1-flash |
1.048.576 |
| Custo baixo, crédito gratuito | broadnet/gemma-4-26b-a4b |
32.768 |
A BroadNet testou o Qwen3.8 27B em árabe, incluindo os dialetos do Golfo e egípcio; veja como escolher um LLM para árabe. O Gemma 4 VL 26B é o único modelo de chat que funciona com o crédito inicial de $5; o crédito também cobre os dois modelos Transcribe. Os preços de cada um estão na página de preços.
O Open WebUI repassa parâmetros padrão como temperature e max_tokens e suporta uso de ferramentas quando o modelo e o servidor suportam tools. A BroadNet lista ferramentas para GLM 5.3 e Qwen3.8 27B.
Solução de problemas
- Verify Connection falha com 400, 401 ou 403. O botão de verificação do Open WebUI chama
/models. A documentação dele diz que chat completions pode funcionar mesmo assim. Adicione os IDs à allowlist e teste um chat. Se o chat também retornar 401, a chave está errada, expirou ou ficou sem cota de pagamento por uso. - O modelo aparece na lista, mas a primeira mensagem falha. Confira se o ID é exatamente o da BroadNet, com o prefixo
broadnet/. GLM 5.3, Qwen3.8 27B e DeepSeek V4.1 Flash exigem uma recarga. - Respostas vazias. Os modelos de raciocínio (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) gastam primeiro tokens de saída no raciocínio. Se você definiu max_tokens nos Advanced Params do modelo, aumente ou apague o valor. Por que as respostas vêm vazias.
- 429 quando várias pessoas usam o chat. Uma chave de pagamento por uso permite 30 requisições por minuto e 4 ao mesmo tempo. O Open WebUI também faz chamadas em segundo plano, como a geração de títulos dos chats, com a mesma chave. Veja erros e novas tentativas.
- Variáveis de ambiente alteradas não fazem nada. A primeira inicialização salvou os valores antigos. Edite a conexão no painel de administração ou veja a seção sobre variáveis de ambiente acima.
- Usando uma chave de plano. Uma sessão do plano ilimitado roda uma requisição por vez, e as chaves não podem ser compartilhadas. Serve para a instância pessoal de uma pessoa; as requisições de outros usuários entram em fila.
