BroadRouter
Comenzar

Agregar BroadNet Inference a LibreChat como endpoint personalizado

Actualizado

En librechat.yaml, agregue una entrada en endpoints.custom con name BroadNet, apiKey con una referencia a una variable de entorno como BROADNET_API_KEY, baseURL https://inference.broadnet.ai/v1 y models.default con IDs de BroadNet como broadnet/glm-5.3. Ponga la clave en .env, monte el archivo en el contenedor si usa Docker y reinicie LibreChat. LibreChat agrega /chat/completions a la URL base por su cuenta.

LibreChat es una aplicación de chat de código abierto que admite servicios compatibles con OpenAI como custom endpoints (endpoints personalizados). Se definen en librechat.yaml, las claves se guardan en .env y, en Docker, el archivo YAML se monta en el contenedor. BroadRouter es el sitio de la propia BroadNet; los pasos siguen la guía de endpoints personalizados de LibreChat.

Configuración

  1. Monte librechat.yaml (solo en Docker). Copie docker-compose.override.yml.example a docker-compose.override.yml y asegúrese de que el volumen esté activo:
services:
  api:
    volumes:
      - type: bind
        source: ./librechat.yaml
        target: /app/librechat.yaml
  1. Agregue el endpoint a librechat.yaml en la raíz del proyecto, dentro de endpoints.custom:
endpoints:
  custom:
    - name: 'BroadNet'
      apiKey: '${BROADNET_API_KEY}'
      baseURL: 'https://inference.broadnet.ai/v1'
      models:
        default:
          - 'broadnet/glm-5.3'
          - 'broadnet/qwen3.8-27b'
          - 'broadnet/deepseek-v4.1-flash'
          - 'broadnet/gemma-4-26b-a4b'
        fetch: false
      titleConvo: true
      titleModel: 'broadnet/gemma-4-26b-a4b'
      modelDisplayLabel: 'BroadNet'

Conserve las claves de nivel superior que su archivo ya tenga, como version.

  1. Defina la clave en .env:
BROADNET_API_KEY=your-broadnet-key
  1. Reinicie LibreChat. Con Docker: docker compose down && docker compose up -d. En una instalación local, reinicie con npm run backend. BroadNet aparecerá entonces en el selector de endpoints.

Notas sobre los campos

  • baseURL. LibreChat agrega /chat/completions por su cuenta, así que use la raíz /v1 de arriba. No configure directEndpoint: true; esa opción es para una baseURL que ya es la URL completa de completions.
  • fetch: false. Es el valor predeterminado de LibreChat; lo configuramos para que la elección quede a la vista. La documentación de BroadNet describe GET /v1/models como metadatos públicos del catálogo para monitores, así que listar los modelos en default es más predecible.
  • titleModel. LibreChat escribe un título para cada chat con una solicitud adicional. Un modelo pequeño y económico sin razonamiento mantiene corta esa llamada. La documentación de BroadNet no indica razonamiento para Gemma 4 VL 26B.
  • user_provided. Configure apiKey: 'user_provided' si cada usuario debe ingresar su propia clave de BroadNet en la interfaz. LibreChat guarda cifrada la clave de cada usuario y la pide la primera vez que elige el endpoint.
  • Nombre único. Un segundo endpoint con el mismo nombre, sin distinguir mayúsculas de minúsculas, reemplaza al primero sin avisar. Si ya tiene una entrada llamada BroadNet, cambie el nombre de una de ellas.
  • Sin claves literales. La documentación de LibreChat recomienda la referencia ${VAR} en lugar de una clave escrita en librechat.yaml, donde quedaría en texto plano.

Qué modelo elegir

Uso Modelo
Chat predeterminado, herramientas, JSON GLM 5.3
Imágenes y árabe Qwen3.8 27B
Documentos largos, contexto de 1M DeepSeek V4.1 Flash
Títulos y respuestas rápidas BroadNet Gemma 4 VL 26B

De estos modelos, solo Gemma 4 VL 26B funciona con el crédito inicial de $5, que también cubre los dos modelos Transcribe. Compare precios en la página de precios.

Solución de problemas

  • El endpoint no aparece. Verifique que name, baseURL, apiKey y models.default estén bien escritos y con sangría dentro de endpoints.custom. LibreChat descarta las entradas incompletas sin ninguna línea en el log. En Docker, confirme que el bind mount no esté comentado en docker-compose.override.yml.
  • “Missing API Key for BroadNet”. BROADNET_API_KEY no está en .env, o no se reinició LibreChat. El endpoint sigue apareciendo; el error se muestra solo al enviar un mensaje.
  • 401 del proveedor. La clave es incorrecta, venció o se agotó el saldo de pago por uso.
  • Errores de modelo. Cada ID debe coincidir exactamente con el de BroadNet, con el prefijo broadnet/. GLM 5.3, Qwen3.8 27B y DeepSeek V4.1 Flash requieren una recarga.
  • Respuestas vacías. DeepSeek V4.1 Flash, GLM 5.3 y Qwen3.8 27B razonan primero, y el razonamiento cuenta para max_tokens. Si configuró una salida máxima pequeña en los parámetros de LibreChat, auméntela. Por qué las respuestas llegan vacías.
  • 429 con muchos usuarios. Una clave de pago por uso permite 30 solicitudes por minuto y 4 a la vez, compartidas por todos los que usan el endpoint. Las solicitudes de títulos también cuentan. Las claves user_provided reparten la carga. Consulte errores y reintentos.
  • Claves de plan. Una sesión de plan ilimitado ejecuta una solicitud a la vez y no se puede compartir, así que no encaja en un LibreChat multiusuario.

Preguntas frecuentes

¿Por qué no aparece mi endpoint de BroadNet en LibreChat?

LibreChat descarta un endpoint personalizado sin ningún error ni línea en el log si falta o está mal escrito name, baseURL, apiKey o models.default. En Docker, verifique también que librechat.yaml esté montado en /app/librechat.yaml y que haya reiniciado.

¿Puede cada usuario usar su propia clave de BroadNet?

Sí. Configure apiKey como user_provided. LibreChat le pedirá entonces una clave a cada usuario la primera vez que elija el endpoint y la guardará cifrada.

¿Por qué LibreChat muestra "Missing API Key for BroadNet"?

La variable referenciada en apiKey no está definida en .env. El endpoint sigue apareciendo en el selector, y el error aparece solo al enviar un mensaje. Agregue la variable y reinicie LibreChat.

¿La baseURL de LibreChat debe incluir /chat/completions?

No. LibreChat agrega /chat/completions a baseURL de forma predeterminada. Use https://inference.broadnet.ai/v1. Configure directEndpoint en true solo si la URL que ingresa ya es el endpoint de completions completo.

Leer en MarkdownPreguntar a ChatGPTPreguntar a ClaudePreguntar a Perplexity