---
title: "LiteLLM : fournisseur compatible OpenAI avec api_base"
description: "Appelez BroadNet Inference via LiteLLM avec le préfixe openai/ et api_base, dans le SDK Python ou le config.yaml du proxy, avec des limites de débit adaptées."
url: https://broadrouter.com/fr/guides/litellm-proxy-custom-provider/
lang: fr
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traduit de l’anglais avec l’aide de l’IA. [Lire l’original en anglais](https://broadrouter.com/guides/litellm-proxy-custom-provider/) (mis à jour le 2026-11-16).

# Router LiteLLM vers BroadNet Inference (SDK et proxy)

Mis à jour 2026-11-16

Dans LiteLLM, préfixez l’ID de modèle BroadNet par openai/, par exemple openai/broadnet/glm-5.3, et définissez api\_base sur https://inference.broadnet.ai/v1 avec votre clé BroadNet comme api\_key. Dans le proxy, placez les mêmes valeurs sous litellm\_params dans config.yaml et donnez au modèle un model\_name court.

LiteLLM offre une interface unique vers de nombreux fournisseurs de LLM, sous forme de SDK Python et de serveur proxy. Pour joindre une API compatible OpenAI, sa documentation demande deux choses : placer `openai/` devant le nom du modèle et définir `api_base`. BroadNet Inference utilise cette route.

## 1\. SDK Python

```bash
pip install litellm
export BROADNET_API_KEY='your-broadnet-key'
```

```python
import os
import litellm

response = litellm.completion(
    model="openai/broadnet/glm-5.3",
    api_base="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,  # reasoning counts toward this
    messages=[{"role": "user", "content": "Name three uses of a bloom filter."}],
)
print(response.choices[0].message.content)
```

`openai/` sélectionne la route ; LiteLLM envoie `broadnet/glm-5.3` à BroadNet. N’ajoutez rien à l’URL de base : le client OpenAI de LiteLLM ajoute lui-même le chemin de l’endpoint.

La documentation de LiteLLM précise que la route `openai` utilise la bibliothèque Python officielle d’OpenAI, qui exige une clé d’API à chaque requête. Passez `api_key` explicitement, comme ci-dessus, pour que LiteLLM ne se rabatte jamais sur une `OPENAI_API_KEY` destinée à OpenAI. La réponse revient au format OpenAI : le reste de votre code ne change pas.

## Quand utiliser le proxy ?

Dans une seule application Python, le SDK suffit. Le proxy est utile quand plusieurs applications ou langages ont besoin des mêmes modèles : ils appellent tous un même endpoint de style OpenAI avec des noms de modèles courts, et le proxy détient la clé BroadNet, applique les limites de débit et journalise l’usage. Vos applications n’ont alors besoin d’aucun réglage propre à BroadNet.

## 2\. Serveur proxy

Installez les extras du proxy et écrivez `config.yaml` :

```bash
pip install 'litellm[proxy]'
```

```yaml
model_list:
  - model_name: glm
    litellm_params:
      model: openai/broadnet/glm-5.3
      api_base: https://inference.broadnet.ai/v1
      api_key: os.environ/BROADNET_API_KEY_GLM
      rpm: 30
  - model_name: deepseek-flash
    litellm_params:
      model: openai/broadnet/deepseek-v4.1-flash
      api_base: https://inference.broadnet.ai/v1
      api_key: os.environ/BROADNET_API_KEY_DEEPSEEK
      rpm: 30
  - model_name: qwen
    litellm_params:
      model: openai/broadnet/qwen3.8-27b
      api_base: https://inference.broadnet.ai/v1
      api_key: os.environ/BROADNET_API_KEY_QWEN
      rpm: 30

general_settings:
  master_key: os.environ/LITELLM_MASTER_KEY
```

Démarrez-le et appelez-le comme n’importe quel endpoint OpenAI :

```bash
litellm --config config.yaml

# in a second terminal
curl http://localhost:4000/chat/completions \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "glm", "messages": [{"role": "user", "content": "Hello"}]}'
```

`os.environ/BROADNET_API_KEY_GLM` indique à LiteLLM de lire cette clé dans l’environnement. Chaque entrée utilise sa propre clé BroadNet à l’usage : `rpm: 30`, la limite de débit facultative de LiteLLM par déploiement, correspond donc à la limite de chaque clé. Si plusieurs entrées partagent une même clé, elles partagent aussi cette limite : répartissez le nombre entre elles. `master_key` oblige le proxy à exiger une clé à chaque appel ; selon la documentation de LiteLLM, elle doit commencer par `sk-`. Exportez `LITELLM_MASTER_KEY` avant de démarrer le proxy.

## Quel modèle choisir ?

| model\_name | Modèle BroadNet | Usage |
| --- | --- | --- |
| `glm` | [GLM 5.3](https://broadrouter.com/fr/models/glm-5.3/) | Outils, sortie structurée, contexte de 1M |
| `deepseek-flash` | [DeepSeek V4.1 Flash](https://broadrouter.com/fr/models/deepseek-v4.1-flash/) | Long contexte ; le modèle des forfaits illimités |
| `qwen` | [Qwen3.8 27B](https://broadrouter.com/fr/models/qwen3.8-27b/) | Images, outils, arabe |
| (à ajouter si besoin) | [Gemma 4 VL 26B](https://broadrouter.com/fr/models/gemma-4-vl-26b/) | Prix par token bas ; fonctionne avec le crédit de $5 |

Les prix figurent sur la [page des tarifs](https://broadrouter.com/fr/pricing/). Si vous venez d’une autre passerelle, la [checklist de migration](https://broadrouter.com/fr/blog/openai-compatible-api-migration-checklist/) indique quoi tester.

## Dépannage

-   **401.** La clé BroadNet est erronée, expirée ou son quota de paiement à l’usage est épuisé. Si le 401 vient du proxy lui-même, vérifiez plutôt la clé LiteLLM que vous avez envoyée.
-   **Not Found.** Vérifiez que `api_base` vaut `https://inference.broadnet.ai/v1`, avec `/v1`. Si l’URL de base est correcte, vérifiez que l’ID de modèle après `openai/` correspond exactement à celui de BroadNet.
-   **Modèle refusé sur un nouveau compte.** GLM 5.3, Qwen3.8 27B et DeepSeek V4.1 Flash nécessitent d’abord une recharge ; le crédit de $5 ne couvre que `broadnet/gemma-4-26b-a4b` et les deux modèles Transcribe.
-   **Contenu vide.** Le raisonnement compte dans `max_tokens`. Augmentez-le ou envoyez `reasoning_effort="low"`. [Pourquoi les réponses reviennent vides](https://broadrouter.com/fr/guides/reasoning-tokens-empty-response/).
-   **429.** Une clé à l’usage autorise 30 requêtes par minute et 4 simultanées. Le `rpm` de LiteLLM aide pour la première limite ; gardez au plus 4 appelants simultanés par clé. Voir [codes d’erreur et nouvelles tentatives](https://broadrouter.com/fr/guides/errors-and-retries/).
-   **Agents en parallèle avec une clé de forfait.** Une [session de forfait](https://broadrouter.com/fr/guides/unlimited-llm-api-sessions/) traite une seule requête à la fois. Plusieurs agents passant par le proxy sur une même session font la queue ; achetez une session par agent parallèle.

## Termes de ce guide

[Concurrence (requêtes simultanées)](https://broadrouter.com/fr/glossary/concurrency/)

La concurrence est le nombre de requêtes qu’un client a en cours au même moment. Les API de LLM la plafonnent souvent par clé ou par forfait, indépendamment des requêtes par minute, car chaque requête ouverte occupe de la capacité GPU jusqu’à la fin de sa réponse.

[Paiement à l’usage (pay-as-you-go)](https://broadrouter.com/fr/glossary/pay-as-you-go/)

Le paiement à l’usage (pay-as-you-go) est un modèle tarifaire où vous ne payez que ce que vous consommez, mesuré par unité, comme les tokens, les requêtes ou les minutes d’audio, sans abonnement ni engagement minimal. La plupart des API LLM facturent ainsi, à partir d’un solde prépayé ou d’une facture périodique.

[Limite de débit (rate limit)](https://broadrouter.com/fr/glossary/rate-limit/)

Une limite de débit (rate limit) est un plafond qu’une API impose à l’usage d’un client sur une période, par exemple en requêtes ou en tokens par minute. Les requêtes au-delà sont refusées, généralement avec HTTP 429 Too Many Requests, jusqu’à ce que l’usage repasse sous la limite.

[API compatible OpenAI](https://broadrouter.com/fr/glossary/openai-compatible-api/)

Une API compatible OpenAI est une API HTTP qui accepte les mêmes formats de requête et de réponse que l’API OpenAI, comme POST /v1/chat/completions. Les SDK et outils OpenAI peuvent donc l’utiliser en changeant seulement l’URL de base, la clé d’API et le nom du modèle.

[Appel d’outils (tool calling, function calling)](https://broadrouter.com/fr/glossary/tool-calling/)

L’appel d’outils, aussi appelé function calling, est une fonctionnalité des API LLM dans laquelle le modèle renvoie une demande structurée d’exécution d’une fonction définie par le développeur, avec des arguments JSON. L’application exécute la fonction et renvoie le résultat ; le modèle n’exécute jamais de code lui-même.

[Débit (throughput)](https://broadrouter.com/fr/glossary/throughput/)

Le débit (throughput), dans le service de LLM, est la quantité totale de travail qu’un système accomplit par unité de temps sur toutes les requêtes simultanées, généralement mesurée en tokens de sortie par seconde ou en requêtes par seconde. Il se distingue de la vitesse par flux, c’est-à-dire la vitesse à laquelle une seule requête reçoit ses tokens.

[URL de base (base URL)](https://broadrouter.com/fr/glossary/base-url/)

L’URL de base est l’adresse racine fixe d’une API, comme https://api.example.com/v1, que le client place devant chaque chemin d’endpoint, comme /chat/completions. Dans les SDK compatibles OpenAI, changer l’URL de base, avec la clé d’API et l’ID du modèle, oriente le même code vers un autre fournisseur.

[Clé d’API (API key)](https://broadrouter.com/fr/glossary/api-key/)

Une clé d’API est une chaîne secrète qui identifie et autorise un client qui appelle une API. Les API LLM l’attendent généralement dans un en-tête Authorization: Bearer, et quiconque détient la clé peut envoyer des requêtes facturées au compte qui la possède.

## Questions fréquentes

### Pourquoi LiteLLM renvoie-t-il une erreur Not Found ?

La documentation de LiteLLM demande de vérifier que api\_base se termine par /v1. Utilisez https://inference.broadnet.ai/v1 et n’ajoutez pas /chat/completions.

### Pourquoi le nom du modèle est-il openai/broadnet/glm-5.3 ?

Le préfixe openai/ indique à LiteLLM d’appeler un endpoint /chat/completions de style OpenAI. LiteLLM s’en sert pour choisir la route et envoie le reste, broadnet/glm-5.3, qui est l’ID de modèle BroadNet.

### Puis-je placer une clé de forfait illimité BroadNet derrière un proxy LiteLLM partagé ?

Les clés de forfait ne peuvent être ni partagées ni revendues, et une session traite une seule requête à la fois. Utilisez-les pour vos propres agents. Pour un proxy d’équipe, utilisez des clés à l’usage.

### LiteLLM a-t-il besoin de OPENAI\_API\_KEY pour appeler BroadNet ?

La route openai exige une clé à chaque requête, via api\_key ou OPENAI\_API\_KEY. Passez votre clé BroadNet comme api\_key, ou os.environ/BROADNET\_API\_KEY dans le proxy, pour que LiteLLM n’envoie pas une vraie clé OpenAI à BroadNet.

## Guides associés

-   [Utiliser le SDK Python d’OpenAI avec BroadNet Inference](https://broadrouter.com/fr/guides/openai-python-sdk/)
-   [Codes d’erreur de BroadNet Inference : quand réessayer ?](https://broadrouter.com/fr/guides/errors-and-retries/)
-   [Pourquoi un modèle de raisonnement renvoie une réponse vide](https://broadrouter.com/fr/guides/reasoning-tokens-empty-response/)
-   [Utiliser LangChain avec BroadNet Inference](https://broadrouter.com/fr/guides/langchain-openai-base-url/)
-   [Tous les outils compatibles avec BroadNet Inference (en anglais)](https://broadrouter.com/integrations/) : SDK, agents de code, interfaces de chat et outils d’automatisation, avec les réglages exacts pour chacun

Essayez-le sur votre vraie charge de travail. Les nouveaux comptes démarrent avec USD 5 de crédit pour Gemma et transcription. DeepSeek, GLM et Qwen3.8 nécessitent une recharge.

[Commencer](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=fr-guides-litellm-proxy-custom-provider&utm_content=page-cta) ·

**Sources**

-   [Documentation LiteLLM, endpoints compatibles OpenAI (consulté le 2026-11-14)](https://docs.litellm.ai/docs/providers/openai_compatible)
-   [Documentation LiteLLM, config.yaml du proxy (consulté le 2026-11-14)](https://docs.litellm.ai/docs/proxy/configs)
-   [Référence de l’API de BroadNet Inference (en anglais)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=fr-guides-litellm-proxy-custom-provider&utm_content=sources)
