---
title: "LlamaIndex OpenAILike com api_base personalizado | BroadRouter"
description: "Conecte o LlamaIndex à BroadNet Inference com a classe OpenAILike, definindo corretamente api_base, context_window, is_chat_model e is_function_calling_model."
url: https://broadrouter.com/pt/guides/llamaindex-openailike/
lang: pt-BR
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traduzido do inglês com ajuda de IA. [Leia o original em inglês](https://broadrouter.com/guides/llamaindex-openailike/) (atualizado em 2026-11-16).

# Usar o LlamaIndex com a BroadNet Inference via OpenAILike

Atualizado em 2026-11-16

Instale llama-index-llms-openai-like e crie o OpenAILike com model definido como um ID da BroadNet, como broadnet/glm-5.3, api\_base como https://inference.broadnet.ai/v1, a sua chave da BroadNet, context\_window igual ao contexto real do modelo, is\_chat\_model=True e is\_function\_calling\_model=True só para GLM 5.3 ou Qwen3.8 27B. Atribua-o a Settings.llm para usá-lo em todo lugar.

O LlamaIndex é um framework Python para RAG e agentes. Para qualquer API compatível com a OpenAI que não seja a própria OpenAI, ele oferece a classe `OpenAILike`. A BroadNet Inference serve chat completions padrão em `https://inference.broadnet.ai/v1`. O BroadRouter é o site da própria BroadNet; este guia segue a referência da API do LlamaIndex para o `llama-index-llms-openai-like` 0.9.0.

## Instalação

```bash
pip install llama-index-llms-openai-like
export BROADNET_API_KEY='your-broadnet-key'
```

## Conectar e testar

```python
import os
from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    model="broadnet/glm-5.3",
    api_base="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    context_window=1048576,
    is_chat_model=True,
    is_function_calling_model=True,
    max_tokens=2000,  # reasoning counts toward this limit
)

print(llm.complete("Name three uses for a vector index."))
```

Se uma resposta for impressa, a chave, a URL e o ID do modelo funcionam. O comentário no código lembra que o raciocínio conta para esse limite.

## As quatro configurações que importam

| Parâmetro | Defina como | Padrão se você não definir |
| --- | --- | --- |
| `is_chat_model` | `True` | `False`, que usa o endpoint legado de completions; a BroadNet serve chat completions |
| `context_window` | O contexto real do modelo | 3.900 tokens |
| `is_function_calling_model` | `True` só para GLM 5.3 ou Qwen3.8 27B | `False` |
| `max_tokens` | 1.000 ou mais | None (não é enviado, então o servidor decide) |

`is_chat_model` é o mais importante. A referência da API diz que ele “controls whether the model uses the chat or completion endpoint” (tradução: controla se o modelo usa o endpoint de chat ou o de completion) e que o padrão é false. A documentação da BroadNet lista `/v1/chat/completions`, não o endpoint de completions antigo.

## Usar no app inteiro

```python
from llama_index.core import Settings

Settings.llm = llm
```

Query engines, chat engines e agentes passam então a usar a BroadNet. Embeddings ficam à parte: a referência da API da BroadNet não lista um endpoint de embeddings, então mantenha outro modelo de embeddings para a indexação.

## Janelas de contexto

| Modelo | ID | `context_window` | Ferramentas |
| --- | --- | --- | --- |
| GLM 5.3 | `broadnet/glm-5.3` | 1048576 | Sim |
| DeepSeek V4.1 Flash | `broadnet/deepseek-v4.1-flash` | 1048576 | Não listado |
| Qwen3.8 27B | `broadnet/qwen3.8-27b` | 262144 | Sim |
| BroadNet Gemma 4 VL 26B | `broadnet/gemma-4-26b-a4b` | 32768 | Não listado |

Um contexto de 1M de tokens deixa um query engine passar muito mais chunks recuperados por chamada. Isso nem sempre é melhor; veja [contexto longo ou RAG](https://broadrouter.com/pt/blog/long-context-vs-rag/).

## Solução de problemas

-   **401.** A chave está errada, expirou ou ficou sem cota.
-   **404.** O `api_base` precisa terminar em `/v1`, e `is_chat_model` precisa ser `True`. Depois confira o ID do modelo. Modelos pagos exigem uma recarga; o crédito de $5 cobre só `broadnet/gemma-4-26b-a4b` e os dois modelos Transcribe.
-   **Respostas vazias.** O raciocínio consumiu o orçamento de saída. Aumente `max_tokens`. [Por que as respostas vêm vazias](https://broadrouter.com/pt/guides/reasoning-tokens-empty-response/).
-   **O agente nunca chama ferramentas.** Defina `is_function_calling_model=True` e use `broadnet/glm-5.3` ou `broadnet/qwen3.8-27b`.
-   **429 durante a ingestão ou consultas em lote.** Uma chave de pagamento por uso permite 30 requisições por minuto e 4 em andamento. O OpenAILike tenta de novo 3 vezes por padrão (`max_retries`). Veja [erros e novas tentativas](https://broadrouter.com/pt/guides/errors-and-retries/).

## Termos neste guia

[Embeddings](https://broadrouter.com/pt/glossary/embeddings/)

Embeddings são listas de números de ponto flutuante (vetores) que um modelo produz para representar um texto, uma imagem ou outra entrada. Entradas com significado parecido recebem vetores próximos, então a distância entre vetores serve para ordenar resultados de busca, agrupar documentos ou encontrar itens relacionados.

[Token](https://broadrouter.com/pt/glossary/token/)

Um token é a unidade de texto que um modelo de linguagem lê e escreve: uma palavra, parte de uma palavra, um sinal de pontuação ou uma sequência de bytes gerada pelo tokenizador do modelo. As APIs de LLM contam, limitam e normalmente cobram o uso em tokens.

[Pagamento por uso (pay-as-you-go)](https://broadrouter.com/pt/glossary/pay-as-you-go/)

Pagamento por uso é um modelo de preço em que você paga só pelo que usa, medido por unidade, como tokens, requisições ou minutos de áudio, sem assinatura nem compromisso mínimo. A maioria das APIs de LLM cobra assim, a partir de um saldo pré-pago ou de uma fatura periódica.

[Chat Completions API](https://broadrouter.com/pt/glossary/chat-completions-api/)

A Chat Completions API é o endpoint HTTP da OpenAI, POST /v1/chat/completions, que recebe o nome de um modelo e uma lista de mensagens marcadas com papéis e devolve a próxima mensagem do modelo. O formato da requisição e da resposta virou o padrão comum que provedores e SDKs compatíveis com a OpenAI reutilizam.

[Concorrência (concurrency)](https://broadrouter.com/pt/glossary/concurrency/)

Concorrência é o número de requisições que um cliente tem em andamento ao mesmo tempo. APIs de LLM muitas vezes a limitam por chave ou por plano, separadamente das requisições por minuto, porque cada requisição aberta ocupa capacidade de GPU até a resposta terminar.

[Rate limit (limite de taxa)](https://broadrouter.com/pt/glossary/rate-limit/)

Um rate limit é um teto que uma API impõe a quanto um cliente pode usá-la em um intervalo de tempo, como requisições por minuto ou tokens por minuto. As requisições acima do limite são recusadas, normalmente com HTTP 429 Too Many Requests, até que o uso volte a ficar abaixo dele.

[Tool calling (chamada de ferramentas)](https://broadrouter.com/pt/glossary/tool-calling/)

Tool calling, também chamado de function calling ou chamada de ferramentas, é um recurso de APIs de LLM em que o modelo devolve um pedido estruturado para executar uma função definida pelo desenvolvedor, com argumentos JSON. A aplicação executa a função e devolve o resultado; o modelo nunca executa código sozinho.

[API compatível com a OpenAI](https://broadrouter.com/pt/glossary/openai-compatible-api/)

Uma API compatível com a OpenAI é uma API HTTP que aceita os mesmos formatos de requisição e de resposta da API da OpenAI, como POST /v1/chat/completions, de modo que SDKs e ferramentas da OpenAI podem usá-la trocando só a base URL, a chave de API e o nome do modelo.

## Perguntas frequentes

### Por que não usar a classe OpenAI do LlamaIndex com outro api\_base?

A própria página OpenAI do LlamaIndex diz para usar a integração OpenAILike com qualquer API compatível com a OpenAI que não seja a API oficial da OpenAI. O OpenAILike também permite que você mesmo declare a janela de contexto e o suporte a ferramentas.

### O que acontece se eu não definir context\_window?

O OpenAILike usa 3.900 tokens por padrão, então o LlamaIndex corta prompts e chunks recuperados muito abaixo do que os modelos da BroadNet aceitam. Defina 1048576 para GLM 5.3 e DeepSeek V4.1 Flash, ou 262144 para Qwen3.8 27B.

### Um FunctionAgent do LlamaIndex pode usar a BroadNet?

Sim, com is\_function\_calling\_model=True em um modelo que a BroadNet lista com ferramentas, GLM 5.3 ou Qwen3.8 27B. Deixe False no DeepSeek V4.1 Flash, para o qual a documentação da BroadNet não lista function calling.

### A BroadNet oferece embeddings para um índice do LlamaIndex?

A referência da API da BroadNet lista chat completions e transcrições de áudio, não embeddings. Use um modelo de embeddings separado para o índice e a BroadNet para o LLM.

## Guias relacionados

-   [Como usar o LangChain com a BroadNet Inference](https://broadrouter.com/pt/guides/langchain-openai-base-url/)
-   [Usar o Pydantic AI com a BroadNet Inference (OpenAICompatibleProvider)](https://broadrouter.com/pt/guides/pydantic-ai-openai-compatible/)
-   [Como usar o SDK Python da OpenAI com a BroadNet Inference](https://broadrouter.com/pt/guides/openai-python-sdk/)
-   [Por que um modelo de raciocínio devolve uma resposta vazia](https://broadrouter.com/pt/guides/reasoning-tokens-empty-response/)
-   [Todas as ferramentas que funcionam com a BroadNet Inference (em inglês)](https://broadrouter.com/integrations/): SDKs, agentes de programação, interfaces de chat e ferramentas de automação, com as configurações exatas de cada uma

Teste com a sua carga de trabalho real. Contas novas começam com US$ 5 de crédito para Gemma e transcrição. DeepSeek, GLM e Qwen3.8 exigem uma recarga.

[Começar](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=pt-guides-llamaindex-openailike&utm_content=page-cta) ·

**Fontes**

-   [Referência da API do LlamaIndex, OpenAILike (conferido em 2026-11-15)](https://developers.llamaindex.ai/python/framework-api-reference/llms/openai_like/)
-   [Documentação do LlamaIndex, exemplo de OpenAILike (página da integração Grok) (conferido em 2026-11-15)](https://developers.llamaindex.ai/python/framework/integrations/llm/grok/)
-   [Documentação do LlamaIndex, página do LLM OpenAI (indica o OpenAILike para APIs compatíveis) (conferido em 2026-11-15)](https://developers.llamaindex.ai/python/framework/integrations/llm/openai/)
-   [PyPI, llama-index-llms-openai-like 0.9.0, Python 3.11+ (conferido em 2026-11-15)](https://pypi.org/project/llama-index-llms-openai-like/)
-   [Código-fonte do LlamaIndex, padrão de max\_tokens e payload do LLM OpenAI (conferido em 2026-11-16)](https://github.com/run-llama/llama_index/blob/main/llama-index-integrations/llms/llama-index-llms-openai/llama_index/llms/openai/base.py)
-   [Referência da API da BroadNet Inference (conferido em 2026-11-15) (em inglês)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=pt-guides-llamaindex-openailike&utm_content=sources)
