Open WebUI è un’interfaccia di chat self-hosted. Si collega a qualsiasi provider che implementa il protocollo chat completions di OpenAI, e BroadNet Inference lo fa. I passaggi seguono la guida di Open WebUI per i provider compatibili con OpenAI.
Configurazione
-
Procurati una chiave BroadNet. Per un’interfaccia di chat usata da più persone, la scelta giusta è una chiave a consumo. Vedi chiavi API e allowlist di IP.
-
Apri la pagina delle connessioni. Vai su Settings > Connections nella sezione di amministrazione e trova Manage OpenAI API Connections.
-
Clicca Add Connection e compila:
Campo Valore URL https://inference.broadnet.ai/v1(senza slash finale)API Key la tua chiave BroadNet Model IDs aggiungi ciascun ID qui sotto, uno alla volta, con l’icona + -
Aggiungi a mano gli ID dei modelli. Scrivi
broadnet/glm-5.3, clicca + e ripeti per gli altri che ti servono. La documentazione di BroadNet descriveGET /v1/modelscome metadati pubblici del catalogo per i sistemi di monitoraggio, quindi non contare su quell’endpoint per riempire il selettore dei modelli. -
Clicca Save. La documentazione di Open WebUI precisa che il salvataggio non verifica la connessione.
-
Avvia una chat e scegli il modello dal selettore.
Con le variabili d’ambiente
Se esegui Open WebUI in Docker, puoi impostare la connessione all’avvio:
OPENAI_API_BASE_URL=https://inference.broadnet.ai/v1
OPENAI_API_KEY=your-broadnet-key
Per aggiungere BroadNet accanto a una connessione OpenAI esistente, usa le forme plurali, con i valori separati da punto e virgola: OPENAI_API_BASE_URLS e OPENAI_API_KEYS. OPENAI_API_CONFIGS imposta le opzioni di ogni connessione, come model_ids, indicizzate in base alla posizione della connessione in quell’elenco:
OPENAI_API_CONFIGS='{"0": {"enable": true, "model_ids": ["broadnet/glm-5.3", "broadnet/qwen3.8-27b"]}}'
Il riferimento alle variabili d’ambiente di Open WebUI le classifica come impostazioni ConfigVar. Vengono lette al primo avvio e salvate nel database. Da lì in poi vince il pannello di amministrazione. Modifica la connessione in Settings > Connections nella sezione di amministrazione, oppure imposta ENABLE_PERSISTENT_CONFIG=False se vuoi che l’ambiente venga applicato a ogni avvio.
Quale modello scegliere
| Uso | Modello | Contesto |
|---|---|---|
| Chat generica, strumenti, JSON | broadnet/glm-5.3 |
1.048.576 |
| Domande sulle immagini, arabo | broadnet/qwen3.8-27b |
262.144 |
| Documenti lunghi, immagini | broadnet/deepseek-v4.1-flash |
1.048.576 |
| Costo basso, credito gratuito | broadnet/gemma-4-26b-a4b |
32.768 |
BroadNet ha testato Qwen3.8 27B in arabo, compresi i dialetti del Golfo ed egiziano; vedi come scegliere un LLM per l’arabo. Gemma 4 VL 26B è l’unico modello di chat che funziona con il credito iniziale di $5; il credito copre anche i due modelli Transcribe. I prezzi di ciascuno sono nella pagina dei prezzi.
Open WebUI passa i parametri standard come temperature e max_tokens, e supporta l’uso degli strumenti quando modello e server supportano tools. BroadNet indica gli strumenti per GLM 5.3 e Qwen3.8 27B.
Risoluzione dei problemi
- Verify Connection fallisce con 400, 401 o 403. Il pulsante di verifica di Open WebUI chiama
/models. La sua documentazione dice che chat completions può comunque funzionare. Aggiungi gli ID alla allowlist e prova una chat. Se anche la chat restituisce 401, la chiave è sbagliata, scaduta o ha esaurito la quota a consumo. - Il modello compare nell’elenco ma il primo messaggio fallisce. Controlla che l’ID corrisponda esattamente a quello di BroadNet, con il prefisso
broadnet/. GLM 5.3, Qwen3.8 27B e DeepSeek V4.1 Flash richiedono una ricarica. - Risposte vuote. I modelli di ragionamento (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) spendono prima i token di output nel ragionamento. Se hai impostato max_tokens negli Advanced Params del modello, alzalo o svuotalo. Perché le risposte arrivano vuote.
- 429 quando più persone chattano. Una chiave a consumo consente 30 richieste al minuto e 4 in contemporanea. Open WebUI fa anche chiamate in background, per esempio per i titoli delle chat, con la stessa chiave. Vedi errori e retry.
- Le variabili d’ambiente modificate non hanno effetto. Il primo avvio ha salvato i vecchi valori. Modifica la connessione nel pannello di amministrazione, oppure vedi la sezione sulle variabili d’ambiente qui sopra.
- Usare una chiave di piano. Una sessione del piano illimitato esegue una richiesta alla volta, e le chiavi non si possono condividere. Va bene per l’istanza personale di una persona; le richieste degli altri utenti finiscono in coda.
