BroadRouter
Comenzar

Cómo conectar Open WebUI a BroadNet Inference

Actualizado

En Open WebUI, vaya a Settings > Connections en la sección de administración, haga clic en Add Connection en Manage OpenAI API Connections, ponga URL en https://inference.broadnet.ai/v1 y API Key con su clave de BroadNet; luego agregue IDs de modelo como broadnet/glm-5.3 a la lista permitida Model IDs y guarde.

Open WebUI es una interfaz de chat autoalojada. Se conecta a cualquier proveedor que implemente el protocolo de chat completions de OpenAI, y BroadNet Inference lo implementa. Los pasos siguen la guía de Open WebUI para proveedores compatibles con OpenAI.

Configuración

  1. Obtenga una clave de BroadNet. Para una interfaz de chat que usan varias personas, lo adecuado es una clave de pago por uso. Consulte claves de API y listas de IP permitidas.

  2. Abra la página de conexiones. Vaya a Settings > Connections en la sección de administración y busque Manage OpenAI API Connections.

  3. Haga clic en Add Connection y complete:

    Campo Valor
    URL https://inference.broadnet.ai/v1 (sin barra final)
    API Key su clave de BroadNet
    Model IDs agregue cada ID de abajo, uno por uno, con el ícono +
  4. Agregue los IDs de modelo a mano. Escriba broadnet/glm-5.3, haga clic en + y repita con los demás que quiera. La documentación de BroadNet describe GET /v1/models como metadatos públicos del catálogo para monitores, así que no dependa de él para llenar el selector de modelos.

  5. Haga clic en Save. La documentación de Open WebUI advierte que guardar no prueba la conexión.

  6. Inicie un chat y elija el modelo en el selector de modelos.

Con variables de entorno

Si ejecuta Open WebUI en Docker, puede configurar la conexión al arrancar:

OPENAI_API_BASE_URL=https://inference.broadnet.ai/v1
OPENAI_API_KEY=your-broadnet-key

Para agregar BroadNet junto a una conexión de OpenAI existente, use las formas en plural, separadas por punto y coma: OPENAI_API_BASE_URLS y OPENAI_API_KEYS. OPENAI_API_CONFIGS define opciones por conexión, como model_ids, indexadas según la posición de la conexión en esa lista:

OPENAI_API_CONFIGS='{"0": {"enable": true, "model_ids": ["broadnet/glm-5.3", "broadnet/qwen3.8-27b"]}}'

La referencia de variables de entorno de Open WebUI las marca como ajustes ConfigVar. Se leen en el primer arranque y se guardan en la base de datos. A partir de ahí, manda el panel de administración. Edite la conexión en Settings > Connections de la sección de administración, o configure ENABLE_PERSISTENT_CONFIG=False si quiere que el entorno se aplique en cada arranque.

Qué modelo elegir

Uso Modelo Contexto
Chat general, herramientas, JSON broadnet/glm-5.3 1,048,576
Preguntas sobre imágenes, árabe broadnet/qwen3.8-27b 262,144
Documentos largos, imágenes broadnet/deepseek-v4.1-flash 1,048,576
Bajo costo, crédito gratuito broadnet/gemma-4-26b-a4b 32,768

BroadNet probó Qwen3.8 27B en árabe, incluidos los dialectos del Golfo y egipcio; consulte cómo elegir un LLM para árabe. Gemma 4 VL 26B es el único modelo de chat que funciona con el crédito inicial de $5; el crédito también cubre los dos modelos Transcribe. Los precios de cada uno están en la página de precios.

Open WebUI envía parámetros estándar como temperature y max_tokens, y admite el uso de herramientas cuando el modelo y el servidor admiten tools. BroadNet indica herramientas para GLM 5.3 y Qwen3.8 27B.

Solución de problemas

  • Verify Connection falla con 400, 401 o 403. El botón de verificación de Open WebUI llama a /models. Su documentación indica que chat completions puede seguir funcionando. Agregue los IDs a la lista permitida y pruebe un chat. Si el chat también devuelve 401, la clave es incorrecta, venció o se quedó sin saldo de pago por uso.
  • El modelo aparece en la lista, pero falla el primer mensaje. Verifique que el ID coincida exactamente con el de BroadNet, con el prefijo broadnet/. GLM 5.3, Qwen3.8 27B y DeepSeek V4.1 Flash requieren una recarga.
  • Respuestas vacías. Los modelos de razonamiento (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) gastan primero tokens de salida en razonar. Si definió max_tokens en los Advanced Params del modelo, auméntelo o bórrelo. Por qué las respuestas llegan vacías.
  • 429 cuando chatean varias personas. Una clave de pago por uso permite 30 solicitudes por minuto y 4 a la vez. Open WebUI también hace llamadas en segundo plano con la misma clave, por ejemplo para generar los títulos de los chats. Consulte errores y reintentos.
  • Cambiar las variables de entorno no tiene efecto. El primer arranque guardó los valores anteriores. Edite la conexión en el panel de administración, o vea la sección de variables de entorno de arriba.
  • Uso de una clave de plan. Una sesión de plan ilimitado ejecuta una solicitud a la vez, y las claves no se pueden compartir. Sirve para la instancia propia de una persona; las solicitudes de usuarios adicionales hacen fila.

Preguntas frecuentes

¿Por qué falla Verify Connection si el chat funciona?

El botón de verificación de Open WebUI llama al endpoint /models del proveedor. Su documentación indica que una verificación fallida no significa que el chat no funcione. Agregue a mano los IDs de modelo de BroadNet a la lista permitida Model IDs.

¿Puedo configurar la conexión con variables de entorno?

Sí. Defina OPENAI_API_BASE_URL como https://inference.broadnet.ai/v1 y OPENAI_API_KEY con su clave de BroadNet. Open WebUI guarda estos valores en el primer arranque, así que los cambios posteriores en las variables se ignoran salvo que ENABLE_PERSISTENT_CONFIG sea False.

¿Por qué no se aplicó mi nuevo valor de OPENAI_API_BASE_URL?

Open WebUI la trata como una ConfigVar. Después del primer arranque usa el valor guardado en su base de datos. Cambie la URL en Settings > Connections, en la sección de administración, o configure ENABLE_PERSISTENT_CONFIG=False para que lea el entorno en cada arranque.

¿Puede todo mi equipo compartir una clave de plan ilimitado en Open WebUI?

No. Los planes de BroadNet no permiten compartir una clave, y una sesión de plan ejecuta una solicitud a la vez. Use una clave de pago por uso para un Open WebUI compartido.

Leer en MarkdownPreguntar a ChatGPTPreguntar a ClaudePreguntar a Perplexity