---
title: "LlamaIndex OpenAILike avec une api_base personnalisée"
description: "Connectez LlamaIndex à BroadNet Inference avec la classe OpenAILike, en réglant correctement api_base, context_window, is_chat_model et is_function_calling_model."
url: https://broadrouter.com/fr/guides/llamaindex-openailike/
lang: fr
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traduit de l’anglais avec l’aide de l’IA. [Lire l’original en anglais](https://broadrouter.com/guides/llamaindex-openailike/) (mis à jour le 2026-11-16).

# Utiliser LlamaIndex avec BroadNet Inference via OpenAILike

Mis à jour 2026-11-16

Installez llama-index-llms-openai-like et créez OpenAILike avec model réglé sur un ID BroadNet comme broadnet/glm-5.3, api\_base sur https://inference.broadnet.ai/v1, votre clé BroadNet, context\_window sur le contexte réel du modèle, is\_chat\_model=True, et is\_function\_calling\_model=True uniquement pour GLM 5.3 ou Qwen3.8 27B. Définissez-le comme Settings.llm pour l’utiliser partout.

LlamaIndex est un framework Python pour le RAG et les agents. Pour toute API compatible OpenAI qui n’est pas OpenAI elle-même, il fournit la classe `OpenAILike`. BroadNet Inference sert des chat completions standard à `https://inference.broadnet.ai/v1`. BroadRouter est le site de BroadNet ; ce guide suit la référence de l’API de LlamaIndex pour `llama-index-llms-openai-like` 0.9.0.

## Installation

```bash
pip install llama-index-llms-openai-like
export BROADNET_API_KEY='your-broadnet-key'
```

## Se connecter et tester

```python
import os
from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    model="broadnet/glm-5.3",
    api_base="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    context_window=1048576,
    is_chat_model=True,
    is_function_calling_model=True,
    max_tokens=2000,  # reasoning counts toward this limit
)

print(llm.complete("Name three uses for a vector index."))
```

Si une réponse s’affiche, la clé, l’URL et l’ID du modèle fonctionnent.

## Les quatre réglages qui comptent

| Paramètre | Valeur à donner | Valeur par défaut sinon |
| --- | --- | --- |
| `is_chat_model` | `True` | `False`, qui utilise l’ancien point de terminaison completions ; BroadNet sert les chat completions |
| `context_window` | Le contexte réel du modèle | 3 900 tokens |
| `is_function_calling_model` | `True` uniquement pour GLM 5.3 ou Qwen3.8 27B | `False` |
| `max_tokens` | 1 000 ou plus | None (non envoyé : le serveur décide) |

`is_chat_model` est le plus important. La référence de l’API indique qu’il « controls whether the model uses the chat or completion endpoint » (traduction : détermine si le modèle utilise le point de terminaison chat ou completion) et vaut false par défaut. La documentation de BroadNet liste `/v1/chat/completions`, pas l’ancien point de terminaison completions.

## L’utiliser dans toute l’application

```python
from llama_index.core import Settings

Settings.llm = llm
```

Les query engines, chat engines et agents utilisent alors BroadNet. Les embeddings sont à part : la référence de l’API de BroadNet ne liste pas de point de terminaison d’embeddings, gardez donc un autre modèle d’embedding pour l’indexation.

## Fenêtres de contexte

| Modèle | ID | `context_window` | Outils |
| --- | --- | --- | --- |
| GLM 5.3 | `broadnet/glm-5.3` | 1048576 | Oui |
| DeepSeek V4.1 Flash | `broadnet/deepseek-v4.1-flash` | 1048576 | Non indiqué |
| Qwen3.8 27B | `broadnet/qwen3.8-27b` | 262144 | Oui |
| BroadNet Gemma 4 VL 26B | `broadnet/gemma-4-26b-a4b` | 32768 | Non indiqué |

Un contexte de 1M de tokens permet à un query engine de transmettre beaucoup plus de chunks récupérés par appel. Ce n’est pas toujours mieux ; voir [contexte long ou RAG](https://broadrouter.com/fr/blog/long-context-vs-rag/).

## Dépannage

-   **401.** La clé est erronée, a expiré ou a épuisé son allocation.
-   **404.** `api_base` doit se terminer par `/v1`, et `is_chat_model` doit valoir `True`. Vérifiez ensuite l’ID du modèle. Les modèles payants nécessitent une recharge ; le crédit de $5 ne couvre que `broadnet/gemma-4-26b-a4b` et les deux modèles Transcribe.
-   **Réponses vides.** Le raisonnement a consommé le budget de sortie. Augmentez `max_tokens`. [Pourquoi les réponses reviennent vides](https://broadrouter.com/fr/guides/reasoning-tokens-empty-response/).
-   **L’agent n’appelle jamais d’outils.** Réglez `is_function_calling_model=True` et utilisez `broadnet/glm-5.3` ou `broadnet/qwen3.8-27b`.
-   **429 pendant l’ingestion ou des requêtes par lots.** Une clé à l’usage autorise 30 requêtes par minute et 4 requêtes en cours. OpenAILike fait 3 nouvelles tentatives par défaut (`max_retries`). Voir [codes d’erreur et nouvelles tentatives](https://broadrouter.com/fr/guides/errors-and-retries/).

## Termes de ce guide

[Embeddings (plongements vectoriels)](https://broadrouter.com/fr/glossary/embeddings/)

Les embeddings sont des listes de nombres à virgule flottante (des vecteurs) qu’un modèle produit pour représenter un texte, une image ou une autre entrée. Des entrées de sens proche obtiennent des vecteurs voisins : la distance entre vecteurs permet de classer des résultats de recherche, de regrouper des documents ou de trouver des éléments apparentés.

[Token](https://broadrouter.com/fr/glossary/token/)

Un token est l’unité de texte qu’un modèle de langage lit et écrit : un mot, une partie de mot, un signe de ponctuation ou une suite d’octets produite par le tokenizer du modèle. Les API LLM comptent, limitent et facturent généralement l’usage en tokens.

[Concurrence (requêtes simultanées)](https://broadrouter.com/fr/glossary/concurrency/)

La concurrence est le nombre de requêtes qu’un client a en cours au même moment. Les API de LLM la plafonnent souvent par clé ou par forfait, indépendamment des requêtes par minute, car chaque requête ouverte occupe de la capacité GPU jusqu’à la fin de sa réponse.

[API Chat Completions](https://broadrouter.com/fr/glossary/chat-completions-api/)

L’API Chat Completions est l’endpoint HTTP d’OpenAI, POST /v1/chat/completions, qui reçoit un nom de modèle et une liste de messages associés à un rôle, et renvoie le message suivant du modèle. Sa forme de requête et de réponse est devenue le format commun que reprennent les fournisseurs et SDK compatibles OpenAI.

[API compatible OpenAI](https://broadrouter.com/fr/glossary/openai-compatible-api/)

Une API compatible OpenAI est une API HTTP qui accepte les mêmes formats de requête et de réponse que l’API OpenAI, comme POST /v1/chat/completions. Les SDK et outils OpenAI peuvent donc l’utiliser en changeant seulement l’URL de base, la clé d’API et le nom du modèle.

[Appel d’outils (tool calling, function calling)](https://broadrouter.com/fr/glossary/tool-calling/)

L’appel d’outils, aussi appelé function calling, est une fonctionnalité des API LLM dans laquelle le modèle renvoie une demande structurée d’exécution d’une fonction définie par le développeur, avec des arguments JSON. L’application exécute la fonction et renvoie le résultat ; le modèle n’exécute jamais de code lui-même.

[Limite de débit (rate limit)](https://broadrouter.com/fr/glossary/rate-limit/)

Une limite de débit (rate limit) est un plafond qu’une API impose à l’usage d’un client sur une période, par exemple en requêtes ou en tokens par minute. Les requêtes au-delà sont refusées, généralement avec HTTP 429 Too Many Requests, jusqu’à ce que l’usage repasse sous la limite.

[Paiement à l’usage (pay-as-you-go)](https://broadrouter.com/fr/glossary/pay-as-you-go/)

Le paiement à l’usage (pay-as-you-go) est un modèle tarifaire où vous ne payez que ce que vous consommez, mesuré par unité, comme les tokens, les requêtes ou les minutes d’audio, sans abonnement ni engagement minimal. La plupart des API LLM facturent ainsi, à partir d’un solde prépayé ou d’une facture périodique.

## Questions fréquentes

### Pourquoi ne pas utiliser la classe OpenAI de LlamaIndex avec une autre api\_base ?

La page OpenAI de LlamaIndex elle-même recommande l’intégration OpenAILike pour toute API compatible OpenAI qui n’est pas l’API officielle d’OpenAI. OpenAILike vous permet aussi de déclarer vous-même la fenêtre de contexte et la prise en charge des outils.

### Que se passe-t-il si j’omets context\_window ?

OpenAILike utilise alors 3 900 tokens par défaut, et LlamaIndex tronque les prompts et les chunks récupérés bien en deçà de ce qu’acceptent les modèles de BroadNet. Réglez 1048576 pour GLM 5.3 et DeepSeek V4.1 Flash, ou 262144 pour Qwen3.8 27B.

### Un FunctionAgent LlamaIndex peut-il utiliser BroadNet ?

Oui, avec is\_function\_calling\_model=True sur un modèle pour lequel BroadNet indique les outils, GLM 5.3 ou Qwen3.8 27B. Laissez False pour DeepSeek V4.1 Flash, pour lequel la documentation de BroadNet n’indique pas l’appel d’outils.

### BroadNet fournit-il des embeddings pour un index LlamaIndex ?

La référence de l’API de BroadNet liste les chat completions et la transcription audio, pas les embeddings. Utilisez un modèle d’embedding distinct pour l’index et BroadNet pour le LLM.

## Guides associés

-   [Utiliser LangChain avec BroadNet Inference](https://broadrouter.com/fr/guides/langchain-openai-base-url/)
-   [Pydantic AI avec BroadNet Inference (OpenAICompatibleProvider)](https://broadrouter.com/fr/guides/pydantic-ai-openai-compatible/)
-   [Utiliser le SDK Python d’OpenAI avec BroadNet Inference](https://broadrouter.com/fr/guides/openai-python-sdk/)
-   [Pourquoi un modèle de raisonnement renvoie une réponse vide](https://broadrouter.com/fr/guides/reasoning-tokens-empty-response/)
-   [Tous les outils compatibles avec BroadNet Inference (en anglais)](https://broadrouter.com/integrations/) : SDK, agents de code, interfaces de chat et outils d’automatisation, avec les réglages exacts pour chacun

Essayez-le sur votre vraie charge de travail. Les nouveaux comptes démarrent avec USD 5 de crédit pour Gemma et transcription. DeepSeek, GLM et Qwen3.8 nécessitent une recharge.

[Commencer](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=fr-guides-llamaindex-openailike&utm_content=page-cta) ·

**Sources**

-   [Référence de l’API de LlamaIndex, OpenAILike (consulté le 2026-11-15)](https://developers.llamaindex.ai/python/framework-api-reference/llms/openai_like/)
-   [Documentation de LlamaIndex, exemple OpenAILike (page d’intégration Grok) (consulté le 2026-11-15)](https://developers.llamaindex.ai/python/framework/integrations/llm/grok/)
-   [Documentation de LlamaIndex, page du LLM OpenAI (renvoie vers OpenAILike pour les API compatibles) (consulté le 2026-11-15)](https://developers.llamaindex.ai/python/framework/integrations/llm/openai/)
-   [PyPI, llama-index-llms-openai-like 0.9.0, Python 3.11+ (consulté le 2026-11-15)](https://pypi.org/project/llama-index-llms-openai-like/)
-   [Code source de LlamaIndex, valeur par défaut de max\_tokens et contenu de la requête du LLM OpenAI (consulté le 2026-11-16)](https://github.com/run-llama/llama_index/blob/main/llama-index-integrations/llms/llama-index-llms-openai/llama_index/llms/openai/base.py)
-   [Référence de l’API de BroadNet Inference (consulté le 2026-11-15) (en anglais)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=fr-guides-llamaindex-openailike&utm_content=sources)
