---
title: "LiteLLM: proveedor compatible con OpenAI con api_base"
description: "Llame a BroadNet Inference desde LiteLLM con el prefijo openai/ y api_base, en el SDK de Python o en el config.yaml del proxy, con límites de frecuencia acordes."
url: https://broadrouter.com/es/guides/litellm-proxy-custom-provider/
lang: es
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traducido del inglés con ayuda de IA. [Lea el original en inglés](https://broadrouter.com/guides/litellm-proxy-custom-provider/) (actualizado el 2026-11-16).

# Cómo enrutar LiteLLM a BroadNet Inference (SDK y proxy)

Actualizado 2026-11-16

En LiteLLM, anteponga openai/ al ID de modelo de BroadNet, como en openai/broadnet/glm-5.3, y configure api\_base en https://inference.broadnet.ai/v1 con su clave de BroadNet como api\_key. En el proxy, ponga esos mismos valores bajo litellm\_params en config.yaml y asigne al modelo un model\_name corto.

LiteLLM ofrece una sola interfaz para muchos proveedores de LLM, como SDK de Python y como servidor proxy. Para llegar a una API compatible con OpenAI, su documentación indica dos cosas: poner `openai/` delante del nombre del modelo y configurar `api_base`. BroadNet Inference usa esa ruta.

## 1\. SDK de Python

```bash
pip install litellm
export BROADNET_API_KEY='your-broadnet-key'
```

```python
import os
import litellm

response = litellm.completion(
    model="openai/broadnet/glm-5.3",
    api_base="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,  # reasoning counts toward this
    messages=[{"role": "user", "content": "Name three uses of a bloom filter."}],
)
print(response.choices[0].message.content)
```

`openai/` selecciona la ruta; LiteLLM envía `broadnet/glm-5.3` a BroadNet. No agregue nada a la URL base; el cliente de OpenAI de LiteLLM añade la ruta del endpoint.

La documentación de LiteLLM señala que la ruta `openai` usa la biblioteca oficial de OpenAI para Python, que necesita una clave de API en cada solicitud. Pase `api_key` de forma explícita, como arriba, para que LiteLLM nunca recurra a un `OPENAI_API_KEY` pensado para la propia OpenAI. La respuesta vuelve con el formato de OpenAI, así que el resto de su código no cambia.

## Cuándo usar el proxy

El SDK basta dentro de una sola aplicación de Python. El proxy ayuda cuando varias aplicaciones o lenguajes necesitan los mismos modelos: todas llaman a un único endpoint al estilo de OpenAI con nombres de modelo cortos, y el proxy guarda la clave de BroadNet, aplica límites de frecuencia y registra el uso. Así, sus aplicaciones no necesitan ninguna configuración específica de BroadNet.

## 2\. Servidor proxy

Instale los extras del proxy y escriba `config.yaml`:

```bash
pip install 'litellm[proxy]'
```

```yaml
model_list:
  - model_name: glm
    litellm_params:
      model: openai/broadnet/glm-5.3
      api_base: https://inference.broadnet.ai/v1
      api_key: os.environ/BROADNET_API_KEY_GLM
      rpm: 30
  - model_name: deepseek-flash
    litellm_params:
      model: openai/broadnet/deepseek-v4.1-flash
      api_base: https://inference.broadnet.ai/v1
      api_key: os.environ/BROADNET_API_KEY_DEEPSEEK
      rpm: 30
  - model_name: qwen
    litellm_params:
      model: openai/broadnet/qwen3.8-27b
      api_base: https://inference.broadnet.ai/v1
      api_key: os.environ/BROADNET_API_KEY_QWEN
      rpm: 30

general_settings:
  master_key: os.environ/LITELLM_MASTER_KEY
```

Inícielo y llámelo como a cualquier endpoint de OpenAI:

```bash
litellm --config config.yaml

# in a second terminal
curl http://localhost:4000/chat/completions \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "glm", "messages": [{"role": "user", "content": "Hello"}]}'
```

`os.environ/BROADNET_API_KEY_GLM` le indica a LiteLLM que lea esa clave del entorno. Cada entrada usa su propia clave de pago por uso de BroadNet, así que `rpm: 30`, el límite de frecuencia opcional de LiteLLM por despliegue, coincide con el límite de cada clave. Si varias entradas comparten una clave, comparten también ese único límite, así que reparta el número entre ellas. `master_key` hace que el proxy exija una clave en cada llamada; la documentación de LiteLLM dice que debe empezar por `sk-`. Exporte `LITELLM_MASTER_KEY` antes de iniciar el proxy.

## Qué modelo elegir

| model\_name | Modelo de BroadNet | Uso |
| --- | --- | --- |
| `glm` | [GLM 5.3](https://broadrouter.com/es/models/glm-5.3/) | Herramientas, salida estructurada, contexto de 1M |
| `deepseek-flash` | [DeepSeek V4.1 Flash](https://broadrouter.com/es/models/deepseek-v4.1-flash/) | Contexto largo; el modelo del plan ilimitado |
| `qwen` | [Qwen3.8 27B](https://broadrouter.com/es/models/qwen3.8-27b/) | Imágenes, herramientas, árabe |
| (agréguelo si lo necesita) | [Gemma 4 VL 26B](https://broadrouter.com/es/models/gemma-4-vl-26b/) | Precio por token bajo; funciona con el crédito de $5 |

Los precios están en la [página de precios](https://broadrouter.com/es/pricing/). Si viene de otro gateway, la [lista de verificación de migración](https://broadrouter.com/es/blog/openai-compatible-api-migration-checklist/) cubre qué probar.

## Solución de problemas

-   **401.** La clave de BroadNet es incorrecta, venció o se quedó sin saldo de pago por uso. Si el 401 viene del propio proxy, revise en cambio la clave de LiteLLM que envió.
-   **Not Found.** Asegúrese de que `api_base` sea `https://inference.broadnet.ai/v1` con `/v1`. Si la URL base es correcta, verifique que el ID de modelo después de `openai/` coincida exactamente con el de BroadNet.
-   **Modelo rechazado en una cuenta nueva.** GLM 5.3, Qwen3.8 27B y DeepSeek V4.1 Flash requieren primero una recarga; el crédito de $5 cubre solo `broadnet/gemma-4-26b-a4b` y los dos modelos Transcribe.
-   **Contenido vacío.** El razonamiento cuenta para `max_tokens`. Auméntelo o envíe `reasoning_effort="low"`. [Por qué las respuestas llegan vacías](https://broadrouter.com/es/guides/reasoning-tokens-empty-response/).
-   **429.** Una clave de pago por uso permite 30 solicitudes por minuto y 4 a la vez. El `rpm` de LiteLLM ayuda con lo primero; mantenga 4 llamadores simultáneos o menos por clave. Consulte [errores y reintentos](https://broadrouter.com/es/guides/errors-and-retries/).
-   **Agentes en paralelo con una clave de plan.** Una [sesión de plan](https://broadrouter.com/es/guides/unlimited-llm-api-sessions/) ejecuta una solicitud a la vez. Ejecutar varios agentes a través del proxy con una sola sesión los pone en fila; compre una sesión por cada agente en paralelo.

## Términos de esta guía

[Pago por uso (pay-as-you-go)](https://broadrouter.com/es/glossary/pay-as-you-go/)

El pago por uso es un modelo de precios en el que usted paga solo lo que usa, medido por unidades como tokens, solicitudes o minutos de audio, sin suscripción ni compromiso mínimo. La mayoría de las APIs de LLM cobran así, desde un saldo prepagado o con una factura periódica.

[Concurrencia (concurrency)](https://broadrouter.com/es/glossary/concurrency/)

La concurrencia es el número de solicitudes que un cliente tiene en curso al mismo tiempo. Las APIs de LLM suelen limitarla por clave o por plan, aparte de las solicitudes por minuto, porque cada solicitud abierta ocupa capacidad de GPU hasta que su respuesta termina.

[Límite de frecuencia (rate limit)](https://broadrouter.com/es/glossary/rate-limit/)

Un límite de frecuencia (rate limit) es un tope que una API impone a cuánto puede usarla un cliente en un periodo, como solicitudes por minuto o tokens por minuto. Las solicitudes que lo superan se rechazan, normalmente con HTTP 429 Too Many Requests, hasta que el uso vuelve a quedar por debajo.

[Llamadas a herramientas (tool calling)](https://broadrouter.com/es/glossary/tool-calling/)

Las llamadas a herramientas (tool calling), también llamadas function calling, son una función de las APIs de LLM en la que el modelo devuelve una solicitud estructurada para ejecutar una función definida por el desarrollador, con argumentos JSON. La aplicación ejecuta la función y devuelve el resultado; el modelo nunca ejecuta código.

[URL base (base URL)](https://broadrouter.com/es/glossary/base-url/)

La URL base es la dirección raíz fija de una API, como https://api.example.com/v1, que un cliente antepone a cada ruta de endpoint, como /chat/completions. En los SDKs compatibles con OpenAI, cambiar la URL base, junto con la clave de API y el ID del modelo, dirige el mismo código a otro proveedor.

[API compatible con OpenAI](https://broadrouter.com/es/glossary/openai-compatible-api/)

Una API compatible con OpenAI es una API HTTP que acepta los mismos formatos de solicitud y respuesta que la API de OpenAI, como POST /v1/chat/completions, de modo que los SDKs y herramientas de OpenAI pueden usarla cambiando solo la URL base, la clave de API y el nombre del modelo.

[Clave de API (API key)](https://broadrouter.com/es/glossary/api-key/)

Una clave de API es una cadena secreta que identifica y autoriza a un cliente que llama a una API. Las APIs de LLM suelen esperarla en un encabezado Authorization: Bearer, y cualquiera que tenga la clave puede hacer solicitudes que se facturan a la cuenta propietaria.

[Crédito prepago (prepaid credit)](https://broadrouter.com/es/glossary/prepaid-credit/)

El crédito prepago es dinero que se añade a una cuenta de API antes de usarla. Cada solicitud descuenta su coste del saldo y, cuando el saldo se agota, las solicitudes medidas se detienen hasta que usted recargue. Limita el gasto a lo que ha pagado.

## Preguntas frecuentes

### ¿Por qué LiteLLM devuelve un error Not Found?

La documentación de LiteLLM indica que debe asegurarse de que api\_base termine en /v1. Use https://inference.broadnet.ai/v1 y no agregue /chat/completions.

### ¿Por qué el nombre del modelo es openai/broadnet/glm-5.3?

El prefijo openai/ le indica a LiteLLM que llame a un endpoint /chat/completions al estilo de OpenAI. LiteLLM usa el prefijo para elegir la ruta y envía el resto, broadnet/glm-5.3, que es el ID de modelo de BroadNet.

### ¿Puedo poner una clave de plan ilimitado de BroadNet detrás de un proxy LiteLLM compartido?

Las claves de plan no se pueden compartir ni revender, y una sesión ejecuta una solicitud a la vez. Úselas para sus propios agentes. Para un proxy de equipo, use claves de pago por uso.

### ¿LiteLLM necesita OPENAI\_API\_KEY para llamar a BroadNet?

La ruta openai necesita una clave en cada solicitud, tomada de api\_key o de OPENAI\_API\_KEY. Pase su clave de BroadNet como api\_key, u os.environ/BROADNET\_API\_KEY en el proxy, para que LiteLLM no envíe una clave real de OpenAI a BroadNet.

## Guías relacionadas

-   [Usar el SDK de OpenAI para Python con BroadNet Inference](https://broadrouter.com/es/guides/openai-python-sdk/)
-   [Códigos de error de BroadNet Inference y cuándo reintentar](https://broadrouter.com/es/guides/errors-and-retries/)
-   [¿Por qué un modelo de razonamiento devuelve una respuesta vacía?](https://broadrouter.com/es/guides/reasoning-tokens-empty-response/)
-   [Cómo usar LangChain con BroadNet Inference](https://broadrouter.com/es/guides/langchain-openai-base-url/)
-   [Todas las herramientas que funcionan con BroadNet Inference (en inglés)](https://broadrouter.com/integrations/): SDK, agentes de programación, interfaces de chat y herramientas de automatización, con la configuración exacta de cada una

Pruébelo con su carga de trabajo real. Las cuentas nuevas empiezan con USD 5 de crédito para Gemma y transcripción. DeepSeek, GLM y Qwen3.8 requieren una recarga.

[Comenzar](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=es-guides-litellm-proxy-custom-provider&utm_content=page-cta) ·

**Fuentes**

-   [Documentación de LiteLLM, endpoints compatibles con OpenAI (consultada el 2026-11-14)](https://docs.litellm.ai/docs/providers/openai_compatible)
-   [Documentación de LiteLLM, config.yaml del proxy (consultada el 2026-11-14)](https://docs.litellm.ai/docs/proxy/configs)
-   [Referencia de la API de BroadNet Inference (en inglés)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=es-guides-litellm-proxy-custom-provider&utm_content=sources)
