---
title: "LlamaIndex OpenAILike con un api_base personalizado | BroadRouter"
description: "Conecte LlamaIndex a BroadNet Inference con la clase OpenAILike y configure bien api_base, context_window, is_chat_model e is_function_calling_model."
url: https://broadrouter.com/es/guides/llamaindex-openailike/
lang: es
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traducido del inglés con ayuda de IA. [Lea el original en inglés](https://broadrouter.com/guides/llamaindex-openailike/) (actualizado el 2026-11-16).

# Usar LlamaIndex con BroadNet Inference mediante OpenAILike

Actualizado 2026-11-16

Instale llama-index-llms-openai-like y cree OpenAILike con model en un ID de BroadNet como broadnet/glm-5.3, api\_base en https://inference.broadnet.ai/v1, su clave de BroadNet, context\_window con el contexto real del modelo, is\_chat\_model=True e is\_function\_calling\_model=True solo para GLM 5.3 o Qwen3.8 27B. Asígnelo a Settings.llm para usarlo en todas partes.

LlamaIndex es un framework de Python para RAG y agentes. Para cualquier API compatible con OpenAI que no sea la propia OpenAI, ofrece la clase `OpenAILike`. BroadNet Inference sirve chat completions estándar en `https://inference.broadnet.ai/v1`. BroadRouter es el sitio de BroadNet; esta guía sigue la referencia de la API de LlamaIndex para `llama-index-llms-openai-like` 0.9.0.

## Instalación

```bash
pip install llama-index-llms-openai-like
export BROADNET_API_KEY='your-broadnet-key'
```

## Conexión y prueba

```python
import os
from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    model="broadnet/glm-5.3",
    api_base="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    context_window=1048576,
    is_chat_model=True,
    is_function_calling_model=True,
    max_tokens=2000,  # reasoning counts toward this limit
)

print(llm.complete("Name three uses for a vector index."))
```

Si se imprime una respuesta, la clave, la URL y el ID del modelo funcionan.

## Los cuatro parámetros que importan

| Parámetro | Valor recomendado | Valor predeterminado si no lo configura |
| --- | --- | --- |
| `is_chat_model` | `True` | `False`, que usa el endpoint heredado de completions; BroadNet sirve chat completions |
| `context_window` | El contexto real del modelo | 3,900 tokens |
| `is_function_calling_model` | `True` solo para GLM 5.3 o Qwen3.8 27B | `False` |
| `max_tokens` | 1,000 o más | None (no se envía, así que decide el servidor) |

`is_chat_model` es el más importante. La referencia de la API dice que “controls whether the model uses the chat or completion endpoint” (traducción: controla si el modelo usa el endpoint de chat o el de completion) y que su valor predeterminado es false. La documentación de BroadNet lista `/v1/chat/completions`, no el endpoint de completions más antiguo.

## Usarlo en toda la aplicación

```python
from llama_index.core import Settings

Settings.llm = llm
```

Desde ese momento, los query engines, los chat engines y los agentes usan BroadNet. Los embeddings van aparte: la referencia de la API de BroadNet no lista un endpoint de embeddings, así que mantenga otro modelo de embeddings para la indexación.

## Ventanas de contexto

| Modelo | ID | `context_window` | Herramientas |
| --- | --- | --- | --- |
| GLM 5.3 | `broadnet/glm-5.3` | 1048576 | Sí |
| DeepSeek V4.1 Flash | `broadnet/deepseek-v4.1-flash` | 1048576 | No indicadas |
| Qwen3.8 27B | `broadnet/qwen3.8-27b` | 262144 | Sí |
| BroadNet Gemma 4 VL 26B | `broadnet/gemma-4-26b-a4b` | 32768 | No indicadas |

Un contexto de 1M de tokens permite que un query engine pase muchos más fragmentos recuperados por llamada. Eso no siempre es mejor; vea [contexto largo frente a RAG](https://broadrouter.com/es/blog/long-context-vs-rag/).

## Solución de problemas

-   **401.** La clave es incorrecta, venció o se quedó sin saldo.
-   **404.** `api_base` debe terminar en `/v1`, e `is_chat_model` debe ser `True`. Luego verifique el ID del modelo. Los modelos de pago requieren una recarga; el crédito inicial de $5 cubre solo `broadnet/gemma-4-26b-a4b` y los dos modelos Transcribe.
-   **Respuestas vacías.** El razonamiento agotó el presupuesto de salida. Aumente `max_tokens`. [Por qué las respuestas llegan vacías](https://broadrouter.com/es/guides/reasoning-tokens-empty-response/).
-   **El agente nunca llama a herramientas.** Configure `is_function_calling_model=True` y use `broadnet/glm-5.3` o `broadnet/qwen3.8-27b`.
-   **429 durante la ingesta o en consultas por lotes.** Una clave de pago por uso permite 30 solicitudes por minuto y 4 a la vez. OpenAILike reintenta 3 veces de forma predeterminada (`max_retries`). Consulte [errores y reintentos](https://broadrouter.com/es/guides/errors-and-retries/).

## Términos de esta guía

[Embeddings (vectores de texto)](https://broadrouter.com/es/glossary/embeddings/)

Los embeddings son listas de números de punto flotante (vectores) que un modelo produce para representar un texto, una imagen u otra entrada. Las entradas de significado parecido obtienen vectores cercanos, así que la distancia entre vectores sirve para ordenar resultados de búsqueda, agrupar documentos o encontrar elementos relacionados.

[Token](https://broadrouter.com/es/glossary/token/)

Un token es la unidad de texto que un modelo de lenguaje lee y escribe: una palabra, parte de una palabra, un signo de puntuación o una secuencia de bytes producida por el tokenizador del modelo. Las APIs de LLM cuentan, limitan y normalmente facturan el uso en tokens.

[Pago por uso (pay-as-you-go)](https://broadrouter.com/es/glossary/pay-as-you-go/)

El pago por uso es un modelo de precios en el que usted paga solo lo que usa, medido por unidades como tokens, solicitudes o minutos de audio, sin suscripción ni compromiso mínimo. La mayoría de las APIs de LLM cobran así, desde un saldo prepagado o con una factura periódica.

[API de Chat Completions](https://broadrouter.com/es/glossary/chat-completions-api/)

La API de Chat Completions es el endpoint HTTP de OpenAI, POST /v1/chat/completions, que recibe un nombre de modelo y una lista de mensajes etiquetados con su rol y devuelve el siguiente mensaje del modelo. Su forma de solicitud y respuesta se convirtió en el formato común que reutilizan los proveedores y SDKs compatibles con OpenAI.

[Concurrencia (concurrency)](https://broadrouter.com/es/glossary/concurrency/)

La concurrencia es el número de solicitudes que un cliente tiene en curso al mismo tiempo. Las APIs de LLM suelen limitarla por clave o por plan, aparte de las solicitudes por minuto, porque cada solicitud abierta ocupa capacidad de GPU hasta que su respuesta termina.

[Límite de frecuencia (rate limit)](https://broadrouter.com/es/glossary/rate-limit/)

Un límite de frecuencia (rate limit) es un tope que una API impone a cuánto puede usarla un cliente en un periodo, como solicitudes por minuto o tokens por minuto. Las solicitudes que lo superan se rechazan, normalmente con HTTP 429 Too Many Requests, hasta que el uso vuelve a quedar por debajo.

[Llamadas a herramientas (tool calling)](https://broadrouter.com/es/glossary/tool-calling/)

Las llamadas a herramientas (tool calling), también llamadas function calling, son una función de las APIs de LLM en la que el modelo devuelve una solicitud estructurada para ejecutar una función definida por el desarrollador, con argumentos JSON. La aplicación ejecuta la función y devuelve el resultado; el modelo nunca ejecuta código.

[RAG (generación aumentada por recuperación)](https://broadrouter.com/es/glossary/rag/)

RAG (generación aumentada por recuperación) es un patrón en el que una aplicación primero recupera, de un almacén externo como un índice de búsqueda o vectorial, fragmentos relevantes para una pregunta, y luego los agrega al prompt para que un modelo de lenguaje responda con ese texto y no solo de memoria.

## Preguntas frecuentes

### ¿Por qué no usar la clase OpenAI de LlamaIndex con otro api\_base?

La propia página de OpenAI de LlamaIndex indica usar la integración OpenAILike para cualquier API compatible con OpenAI que no sea la API oficial de OpenAI. OpenAILike además le permite declarar usted mismo la ventana de contexto y el soporte de herramientas.

### ¿Qué pasa si no configuro context\_window?

OpenAILike usa 3,900 tokens de forma predeterminada, así que LlamaIndex recorta los prompts y los fragmentos recuperados muy por debajo de lo que aceptan los modelos de BroadNet. Configure 1048576 para GLM 5.3 y DeepSeek V4.1 Flash, o 262144 para Qwen3.8 27B.

### ¿Un FunctionAgent de LlamaIndex puede usar BroadNet?

Sí, con is\_function\_calling\_model=True en un modelo para el que BroadNet indica herramientas: GLM 5.3 o Qwen3.8 27B. Déjelo en False para DeepSeek V4.1 Flash, para el que la documentación de BroadNet no indica llamadas a herramientas.

### ¿BroadNet ofrece embeddings para un índice de LlamaIndex?

La referencia de la API de BroadNet lista chat completions y transcripciones de audio, no embeddings. Use un modelo de embeddings aparte para el índice y BroadNet para el LLM.

## Guías relacionadas

-   [Cómo usar LangChain con BroadNet Inference](https://broadrouter.com/es/guides/langchain-openai-base-url/)
-   [Pydantic AI con BroadNet Inference (OpenAICompatibleProvider)](https://broadrouter.com/es/guides/pydantic-ai-openai-compatible/)
-   [Usar el SDK de OpenAI para Python con BroadNet Inference](https://broadrouter.com/es/guides/openai-python-sdk/)
-   [¿Por qué un modelo de razonamiento devuelve una respuesta vacía?](https://broadrouter.com/es/guides/reasoning-tokens-empty-response/)
-   [Todas las herramientas que funcionan con BroadNet Inference (en inglés)](https://broadrouter.com/integrations/): SDK, agentes de programación, interfaces de chat y herramientas de automatización, con la configuración exacta de cada una

Pruébelo con su carga de trabajo real. Las cuentas nuevas empiezan con USD 5 de crédito para Gemma y transcripción. DeepSeek, GLM y Qwen3.8 requieren una recarga.

[Comenzar](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=es-guides-llamaindex-openailike&utm_content=page-cta) ·

**Fuentes**

-   [Referencia de la API de LlamaIndex, OpenAILike (consultada el 2026-11-15)](https://developers.llamaindex.ai/python/framework-api-reference/llms/openai_like/)
-   [Documentación de LlamaIndex, ejemplo de OpenAILike (página de integración de Grok) (consultada el 2026-11-15)](https://developers.llamaindex.ai/python/framework/integrations/llm/grok/)
-   [Documentación de LlamaIndex, página de OpenAI LLM (remite las API compatibles a OpenAILike) (consultada el 2026-11-15)](https://developers.llamaindex.ai/python/framework/integrations/llm/openai/)
-   [PyPI, llama-index-llms-openai-like 0.9.0, Python 3.11+ (consultado el 2026-11-15)](https://pypi.org/project/llama-index-llms-openai-like/)
-   [Código fuente de LlamaIndex, valor predeterminado de max\_tokens y payload del LLM de OpenAI (consultado el 2026-11-16)](https://github.com/run-llama/llama_index/blob/main/llama-index-integrations/llms/llama-index-llms-openai/llama_index/llms/openai/base.py)
-   [Referencia de la API de BroadNet Inference (consultada el 2026-11-15) (en inglés)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=es-guides-llamaindex-openailike&utm_content=sources)
