“Highly available” ایک امید ہے۔ SLA معاہدے میں لکھا ایک عدد ہے، اور اس عدد کے چوکنے پر طے شدہ تلافی۔
یہ کیسے کام کرتا ہے
SLA چار چیزیں طے کرتا ہے: کیا شامل ہے، ڈاؤن ٹائم کیسے ناپا جاتا ہے، ہدف چوکنے پر آپ کو کیا ملتا ہے، اور دعویٰ کیسے کریں۔ Google کے Gemini Enterprise Agent Platform پر Gemini online inference API کا SLA اس کی ایک واضح حقیقی مثال ہے:
- ہدف۔
generateContentاورstreamGenerateContentمیتھڈز کے لیے 99.5% Monthly Uptime Percentage (کم دورانیے کی دستیابی کے لیے مخصوص ماڈلز پر 95%)۔ - ڈاؤن ٹائم۔ “more than a five percent Error Rate” (ترجمہ: پانچ فیصد سے زیادہ ایرر ریٹ)، جہاں ایرر سے مراد درست درخواستوں پر HTTP 5XX جوابات ہیں، اور یہ صرف “five or more consecutive minutes” (ترجمہ: لگاتار پانچ یا زیادہ منٹ) کے دورانیوں میں گنے جاتے ہیں۔
- کریڈٹس۔
| ماہانہ اپ ٹائم | سروس کے ماہانہ بل پر کریڈٹ |
|---|---|
| 99.0% سے 99.5% سے کم تک | 10% |
| 95.0% سے 99.0% سے کم تک | 25% |
| 95.0% سے کم | 50% |
- دعویٰ۔ گاہک کو “must notify Google technical support within 30 days” (ترجمہ: 30 دن کے اندر Google تکنیکی سپورٹ کو مطلع کرنا ہوگا) اور ڈاؤن ٹائم کے دورانیے دکھانے والی لاگ فائلیں دینی ہوں گی۔ کریڈٹس اس مہینے کے سروس بل کے 50% تک محدود ہیں۔
- استثنا۔ Pre-GA فیچرز، Grounding with Google Search، گاہک کے اپنے سافٹ ویئر سے آئے ایررز، سرور ڈیفالٹ سے چھوٹی ڈیڈ لائنز، اور کوٹا ایررز شامل نہیں۔
یہی SLA، Provisioned Throughput والے کچھ ماڈلز کے لیے لیٹنسی ہدف بھی شامل کرتا ہے، جو فی سیکنڈ آؤٹ پٹ ٹوکنز میں ناپا جاتا ہے۔ Azure، Amazon Bedrock، OpenAI، Anthropic اور دوسروں کے موازنے کے لیے دیکھیں LLM API SLA کا موازنہ۔
یہ کیوں اہم ہے
- اپ ٹائم، تھرو پٹ نہیں ہے۔ جو SLA صرف 5XX ایررز گنتا ہے وہ ریٹ لمٹ (429) یا سست جوابات کے بارے میں کچھ نہیں کہتا، جب تک اس میں لیٹنسی ہدف نہ ہو۔
- کریڈٹس چھوٹے ہوتے ہیں۔ 10% کریڈٹ شاذ ہی آپ کے پروڈکٹ پر آؤٹیج کی لاگت کے برابر ہوتا ہے۔ پھر بھی ناکامی کے لیے ڈیزائن کریں: بیک آف کے ساتھ دوبارہ کوشش، ٹائم آؤٹس اور ایک فال بیک ماڈل یا فراہم کنندہ۔ دیکھیں ایررز اور دوبارہ کوشش کی گائیڈ۔
- استثنا پڑھیں۔ Google کا SLA، pre-GA فیچرز اور نامزد سروسز کو خارج کرتا ہے؛ کسی بھی SLA میں ایسی چھوٹ تلاش کریں۔
- اپنے لاگز رکھیں۔ دعووں کے لیے ثبوت چاہیے۔ درخواست ID، ٹائم اسٹیمپس اور اسٹیٹس کوڈز لاگ کریں۔
BroadNet Inference پر
BroadNet کے سیلف سرو API کا، استعمال کے مطابق ادائیگی اور پلانز دونوں پر، کوئی SLA نہیں ہے۔ اس کی شرائطِ خدمت (§7.4) کہتی ہیں: “We aim to keep the API available and publish what we measure, but self-serve has no availability commitment.” (ترجمہ: ہمارا مقصد API کو دستیاب رکھنا اور جو ہم ناپتے ہیں اسے شائع کرنا ہے، لیکن سیلف سرو پر دستیابی کا کوئی وعدہ نہیں۔) وہ مزید کہتی ہیں کہ “Service levels exist only in a separate written agreement” (ترجمہ: سروس لیولز صرف ایک الگ تحریری معاہدے میں ہوتے ہیں) اور پرائیویٹ اینڈ پوائنٹس اور مخصوص گنجائش اسی معاہدے کے تحت چلتے ہیں۔ اگر آپ کو معاہداتی اپ ٹائم چاہیے تو BroadNet سے پرائیویٹ اینڈ پوائنٹ کے بارے میں پوچھیں؛ ہماری پرائیویٹ اینڈ پوائنٹ پلاننگ پوسٹ بتاتی ہے کہ کن باتوں کی منصوبہ بندی کرنی ہے۔ سیلف سرو کے لیے فال بیک کی منصوبہ بندی کریں: فراہم کنندہ چیک لسٹ میں درج ہے کہ ہمیں BroadNet کی دستاویزات میں کوئی SLA، اسٹیٹس پیج یا ڈیپریکیشن پالیسی نہیں ملی۔