BroadRouter
Commencer

SLA (accord de niveau de service)

Mis à jour

Un SLA (accord de niveau de service) est un engagement contractuel d’un fournisseur sur un niveau de service mesurable, le plus souvent un pourcentage de disponibilité mensuelle, avec une compensation définie, généralement des crédits de service, s’il n’est pas atteint. Un SLA précise ce qui compte comme indisponibilité, ce qui est exclu et comment réclamer.

Aussi appelé : SLA, accord de niveau de service, contrat de niveau de service, garantie de disponibilité, crédits de service, service level agreement, uptime SLA, uptime guarantee, service credits

« Hautement disponible » est un espoir. Un SLA est un chiffre dans un contrat, avec une compensation définie quand ce chiffre n’est pas tenu.

Comment ça marche

Un SLA définit quatre choses : ce qui est couvert, comment l’indisponibilité est mesurée, ce que vous obtenez si l’objectif est manqué, et comment réclamer. Le SLA de Google pour l’API d’inférence en ligne Gemini sur sa Gemini Enterprise Agent Platform en est un exemple réel et clair :

  • Objectif. 99,5 % de Monthly Uptime Percentage pour les méthodes generateContent et streamGenerateContent (95 % pour les modèles désignés pour une disponibilité plus courte).
  • Indisponibilité. « more than a five percent Error Rate » (traduction : « un taux d’erreur supérieur à cinq pour cent »), les erreurs étant des réponses HTTP 5XX à des requêtes valides, comptées uniquement sur des périodes de « five or more consecutive minutes » (traduction : « cinq minutes consécutives ou plus »).
  • Crédits.
Disponibilité mensuelle Crédit sur la facture mensuelle du service
99,0 % à moins de 99,5 % 10 %
95,0 % à moins de 99,0 % 25 %
Moins de 95,0 % 50 %
  • Réclamation. Le client « must notify Google technical support within 30 days » (traduction : « doit prévenir le support technique de Google dans les 30 jours ») et fournir des fichiers de logs montrant les périodes d’indisponibilité. Les crédits sont plafonnés à 50 % de la facture du mois pour le service.
  • Exclusions. Ne sont pas couverts : les fonctionnalités pré-GA, Grounding with Google Search, les erreurs dues au logiciel du client, les délais plus courts que la valeur par défaut du serveur et les erreurs de quota.

Le même SLA ajoute un objectif de latence pour certains modèles sous Provisioned Throughput, mesuré en tokens de sortie par seconde. Pour Azure, Amazon Bedrock, OpenAI, Anthropic et d’autres côte à côte, voir les SLA des API LLM comparés.

Pourquoi c’est important

  • Disponibilité n’est pas débit. Un SLA qui ne compte que les erreurs 5XX ne dit rien des rate limits (429) ni des réponses lentes, sauf s’il comporte un objectif de latence.
  • Les crédits sont faibles. Un crédit de 10 % couvre rarement ce qu’une panne coûte à votre produit. Prévoyez la défaillance quoi qu’il arrive : retries avec backoff, timeouts et un modèle de repli ou un autre fournisseur. Voir le guide des erreurs et retries.
  • Lisez les exclusions. Le SLA de Google exclut les fonctionnalités pré-GA et des services nommés ; cherchez des exceptions similaires dans tout SLA.
  • Gardez vos propres logs. Une réclamation exige des preuves. Journalisez les ID de requête, les horodatages et les codes de statut.

Sur BroadNet Inference

L’API en libre-service de BroadNet, en paiement à l’usage comme en forfait, n’a pas de SLA. Ses conditions d’utilisation (§7.4) disent : « We aim to keep the API available and publish what we measure, but self-serve has no availability commitment. » (traduction : « Nous nous efforçons de garder l’API disponible et publions ce que nous mesurons, mais le libre-service n’a aucun engagement de disponibilité. ») Elles ajoutent que « Service levels exist only in a separate written agreement » (traduction : « des niveaux de service n’existent que dans un accord écrit distinct ») et que les endpoints privés et la capacité réservée relèvent de cet accord. Si vous avez besoin d’une disponibilité contractuelle, interrogez BroadNet sur un endpoint privé ; notre article sur la planification d’un endpoint privé détaille ce qu’il faut prévoir. En libre-service, prévoyez un repli : la checklist de choix d’un fournisseur note que nous n’avons trouvé ni SLA, ni page de statut, ni politique de dépréciation dans la documentation de BroadNet.

Questions fréquentes

Combien d’indisponibilité permet une disponibilité mensuelle de 99,5 % ?

Environ 3,6 heures sur un mois de 30 jours : 0,5 % de 43 200 minutes font 216 minutes. Vérifiez comment le SLA définit l’indisponibilité, car les pannes courtes ou partielles peuvent ne pas compter.

Les crédits de service couvrent-ils mes pertes ?

En général, non. Les crédits sont une remise sur les factures futures du service concerné, souvent plafonnée. Le SLA Gemini de Google, par exemple, plafonne les crédits à 50 % de la facture mensuelle du service et qualifie le SLA de « sole and exclusive remedy » (traduction : « recours unique et exclusif ») du client.

BroadNet Inference a-t-il un SLA ?

Pas en libre-service. Les conditions d’utilisation de BroadNet indiquent que le libre-service n’a aucun engagement de disponibilité et que des niveaux de service n’existent que dans un accord écrit distinct, par exemple pour un endpoint privé.

Lire en MarkdownDemander à ChatGPTDemander à ClaudeDemander à Perplexity