Pour choisir un fournisseur d’API LLM, notez chaque candidat sur six domaines : le coût mensuel de votre charge de travail réelle, les limites de débit et de concurrence, la compatibilité OpenAI, les conditions de conservation des données et d’entraînement, les modèles nécessaires, ainsi que le support et la fiabilité. Testez ensuite les deux meilleurs avec une semaine de trafic réel. Ci-dessous : 20 questions, une grille de notation et le plan de test.
Une fois votre choix fait, la checklist de migration couvre le changement lui-même, et comment évaluer un LLM avant de changer détaille les tests de qualité.
Combien cela coûtera-t-il vraiment ? (questions 1 à 4)
- Combien coûte ma charge de travail réelle par mois ? Chiffrez séparément l’entrée, l’entrée en cache et la sortie ; le calculateur gratuit de coût d’API LLM le fait modèle par modèle. Les agents renvoient le même contexte, si bien que l’entrée en cache domine souvent. Notre explication des tarifs passe chaque ligne en revue.
- Les tokens de raisonnement sont-ils facturés comme de la sortie ? Les modèles de raisonnement peuvent dépenser plus de tokens à réfléchir qu’à répondre.
- Existe-t-il une option forfaitaire ? Pour des agents qui tournent en continu, un forfait peut battre la facturation au token. Voir le calcul du seuil de rentabilité.
- Les prix sont-ils lisibles par machine et datés ? Un fichier de prix en JSON vous permet de suivre les changements et de créer des alertes de coûts.
Notre jeu de données ouvert sur les offres gratuites et limites de débit des API LLM compare ce que 14 fournisseurs publient sur l’accès gratuit, les limites de débit de départ, l’exigence d’une carte et l’entraînement sur les données des offres gratuites, avec la source et la date de chaque valeur.
Quelles limites atteindrez-vous en premier ? (questions 5 à 7)
- Quelles sont les limites de requêtes par minute et de concurrence ? La concurrence (requêtes en cours) est ce qui bloque les agents parallèles et les traitements par lots. Voir limites de débit et concurrence, et dimensionnez votre trafic par rapport à une limite avec le calculateur de limites de débit.
- Y a-t-il un plafond de tokens, une fenêtre glissante ou un quota hebdomadaire ? Les offres « illimitées » en ont souvent un. Lisez ce que veut vraiment dire « illimité ».
- Quelle est la fenêtre de contexte, et est-elle tronquée ? Vérifiez le maximum réel par requête, et si le fournisseur coupe en silence les longs prompts.
Est-ce compatible avec votre code ? (questions 8 à 10)
- Est-ce compatible OpenAI, et jusqu’où ? Changer l’URL de base devrait suffire. Testez ensuite le streaming avec l’usage, les appels d’outils, la sortie structurée et les codes d’erreur. La checklist de migration liste ce qui casse.
- Est-ce que cela fonctionne avec mes outils ? SDK, frameworks d’agents, assistants d’IDE. Consultez les guides d’intégration du fournisseur.
- Les identifiants de modèles sont-ils stables ? Il vous faut des identifiants versionnés et un préavis avant le retrait d’un modèle.
Que deviennent vos données ? (questions 11 à 13)
- Les prompts et les réponses sont-ils conservés, et combien de temps ? Beaucoup de fournisseurs conservent par défaut le contenu des appels API jusqu’à 30 jours. Comparez les formulations officielles dans la conservation des données des API LLM comparée.
- Mes données servent-elles à l’entraînement ? Vérifiez le réglage par défaut de votre offre, par écrit.
- Puis-je signer un DPA (accord de traitement des données), voir les sous-traitants et restreindre les clés ? Utilisez la checklist RGPD si vous traitez des données personnelles de l’UE, et demandez des listes d’IP autorisées.
Le fournisseur a-t-il les modèles qu’il vous faut ? (questions 14 à 16)
- Le fournisseur a-t-il les tailles de modèles et les capacités dont j’ai besoin ? Vision, appel d’outils, raisonnement, contexte long, parole.
- Comment chaque modèle s’en sort-il sur mes tâches ? Construisez 30 à 50 cas de test réels et notez-les. Les benchmarks sont un premier filtre ; où comparer les LLM liste les classements et ce que chacun mesure. Le guide d’évaluation montre comment construire le jeu et éviter les biais du modèle juge.
- Open-weight ou fermé ? Les modèles open-weight peuvent être hébergés par plusieurs fournisseurs, ce qui réduit la dépendance. Voir modèles open-weight ou fermés.
Le service restera-t-il disponible, et qui répond ? (questions 17 à 20)
- Y a-t-il une page de statut et un historique des incidents ?
- Y a-t-il un SLA écrit pour la production ?
- Qui exploite les GPU ? Matériel propre, cloud ou capacité revendue d’une autre API. Chaque cas ajoute un acteur sur le chemin des données et de la fiabilité.
- Comment joindre un humain ? Délais de réponse, canaux, et accès éventuel du support au contenu de vos requêtes.
Comment noter les fournisseurs entre eux ?
Notez chaque question 0 (non ou inconnu), 1 (en partie) ou 2 (oui, par écrit). Pondérez les groupes selon votre cas d’usage :
| Groupe | Questions | Poids pour un agent | Poids pour une application réglementée |
|---|---|---|---|
| Prix | 1 à 4 | Élevé | Moyen |
| Limites | 5 à 7 | Élevé | Moyen |
| Compatibilité | 8 à 10 | Moyen | Moyen |
| Confidentialité | 11 à 13 | Moyen | Élevé |
| Modèles | 14 à 16 | Élevé | Élevé |
| Support et fiabilité | 17 à 20 | Moyen | Élevé |
Un « inconnu » vaut 0 pour une bonne raison : si un fournisseur ne peut pas répondre, vous ne pouvez pas compter sur lui.
Comment tester un fournisseur en une semaine ?
- Prenez les deux meilleurs fournisseurs de la grille.
- Envoyez une part du trafic réel à chacun via le même SDK OpenAI, avec les identifiants de modèles et les URL de base dans la configuration.
- Journalisez par requête : modèle, tokens de prompt, tokens en cache, tokens de complétion, latence, code de statut. Ne journalisez jamais le contenu.
- Provoquez votre pic : lancez votre traitement par lots ou vos agents parallèles et surveillez les erreurs 429. Le guide des erreurs et nouvelles tentatives montre un back-off correct.
- Multipliez les tokens de la semaine par environ 4,3 et chiffrez le mois pour chaque fournisseur.
- Notez les réponses sur votre jeu de test.
Les réponses de BroadNet Inference à la checklist
| N° | BroadNet Inference |
|---|---|
| 1, 4 | Prix au token publiés dans pricing.json, synchronisés 2026-11-14 |
| 3 | Forfaits pour DeepSeek V4.1 Flash : $60 par mois, $15 par semaine ou $1 de l’heure, par session |
| 5 | Paiement à l’usage : 30 requêtes par minute, 4 en cours ; les sessions des forfaits traitent une requête à la fois |
| 6 | Forfaits : pas de compteur de tokens, pas de fenêtre glissante, pas de plafond hebdomadaire |
| 7 | Jusqu’à 1 048 576 tokens sur DeepSeek V4.1 Flash et GLM 5.3 ; la page des forfaits indique que le contexte n’est jamais tronqué |
| 8 | Compatible OpenAI à l’adresse https://inference.broadnet.ai/v1 |
| 11, 12 | Aucun prompt ni aucune réponse conservés ; pas d’utilisation pour entraîner, affiner ou évaluer des modèles |
| 13 | Listes d’IP autorisées jusqu’à 32 entrées ; liste des sous-traitants sur demande ; demandez un DPA |
| 14 | Quatre modèles de chat et deux modèles de transcription (speech-to-text) |
| 19 | Selon la déclaration de confidentialité de BroadNet, ses propres modèles et les modèles open-weight qu’elle héberge tournent sur du matériel détenu ou loué par BroadNet aux États-Unis, avec de la capacité partenaire en secours ; les modèles servis par des partenaires, comme DeepSeek V4.1 Flash, tournent chez des partenaires d’inférence américains sous conditions ZDR |
Ce que nous n’avons pas trouvé dans la documentation ni sur les pages de forfaits de BroadNet (vérifié le 14 novembre 2026) : un SLA, une page de statut ou une politique de retrait des modèles. Demandez-les si cela compte pour vous, et gardez un second fournisseur pour les chemins critiques. Le catalogue est aussi plus restreint que celui d’un agrégateur : si vous avez besoin de modèles GPT, Claude ou Gemini, BroadNet n’est pas le fournisseur pour ce trafic. Le crédit de départ de $5 suffit pour l’étape 3 du plan de test sur une charge légère, mais, parmi les modèles de chat qu’il couvre, uniquement avec Gemma 4 VL 26B (il couvre aussi les deux modèles Transcribe) ; les autres modèles de chat nécessitent une recharge.

