“LLM API rate limits” تلاش کریں تو آپ کو بلاگز کے ایسے جدول ملتے ہیں جو آپس میں میل نہیں کھاتے، اکثر اس لیے کہ وہ پرانے اعداد نقل کرتے ہیں۔ یہ صفحہ ہر عدد 15 نومبر 2026 کو فراہم کنندہ کی اپنی دستاویزات سے لیتا ہے، بتاتا ہے کہ وہ کس ٹائر اور ماڈل پر لاگو ہے، اور جہاں فراہم کنندہ کوئی عدد شائع نہیں کرتا وہاں خانہ خالی چھوڑتا ہے۔ یہی ڈیٹا ڈاؤن لوڈ کے قابل ڈیٹا سیٹ کی شکل میں، مفت کریڈٹ اور ڈیٹا کے استعمال کی شرائط کے ساتھ، LLM API کے مفت ٹائرز اور ریٹ لمٹس میں ہے۔ BroadRouter، BroadNet کی اپنی سائٹ ہے، اور BroadNet کی حدیں بھی اس جدول میں شامل ہیں۔
RPM، TPM، RPD اور بیک وقت درخواستوں کا کیا مطلب ہے؟
ریٹ لمٹ طے کرتی ہے کہ کسی وقت کے دورانیے میں آپ کتنا بھیج سکتے ہیں۔ فراہم کنندگان مختلف چیزیں گنتے ہیں:
| حد | کیا گنتی ہے | سب سے زیادہ کب چبھتی ہے |
|---|---|---|
| RPM، فی منٹ درخواستیں | ایک منٹ میں شروع ہونے والی درخواستیں | جب آپ بہت سی چھوٹی کالز بھیجتے ہیں (درجہ بندی، embeddings جیسے لوپ) |
| RPS، فی سیکنڈ درخواستیں | وہی، ایک سیکنڈ میں | جب آپ یکدم بہت کچھ بھیجتے ہیں، چاہے منٹ کا اوسط کم ہو |
| TPM، فی منٹ ٹوکن | ایک منٹ میں پروسیس ہونے والے ٹوکن، کبھی ان پٹ (ITPM) اور آؤٹ پٹ (OTPM) الگ الگ | جب آپ لمبے پرامپٹ یا لمبی دستاویزات بھیجتے ہیں |
| RPD / TPD، فی دن | ایک دن میں درخواستیں یا ٹوکن | جب آپ مفت ٹائر پر بیچ جاب چلاتے ہیں |
| بیک وقت درخواستیں | ایک ہی لمحے جاری درخواستیں | جب درخواستیں سست ہوں: ریزننگ، لمبے آؤٹ پٹ، ایجنٹس |
کون سی حد آڑے آئے گی، یہ آپ کی درخواستوں کی ساخت پر منحصر ہے۔ بیک وقت درخواستوں کی حد میں تھروپٹ درخواست کی لمبائی پر منحصر ہوتا ہے: DeepInfra کی اپنی دستاویزات مثال دیتی ہیں کہ 1 سیکنڈ اوسط پر 200 بیک وقت درخواستیں تقریباً 12,000 RPM بنتی ہیں۔ اسی حد پر 30 سیکنڈ کی ریزننگ والی درخواست اس کا ایک چھوٹا سا حصہ ہی دیتی ہے۔
زیادہ تر فراہم کنندگان شائع شدہ دورانیے سے چھوٹے دورانیے پر بھی حدیں لاگو کرتے ہیں۔ Anthropic کہتا ہے کہ 60 RPM کی حد “might be enforced as 1 request per second” (ترجمہ: 1 درخواست فی سیکنڈ کے طور پر لاگو کی جا سکتی ہے)، اور xAI اپنی فی سیکنڈ حد فی منٹ بجٹ سے نکالتا ہے (“RPM / 48, with a minimum of 2”؛ ترجمہ: RPM / 48، کم از کم 2)۔
استعمال کے ٹائرز کیسے کام کرتے ہیں؟
بڑے کلوزڈ ماڈل فراہم کنندگان آپ کے خرچ کے ساتھ آپ کی حدیں بڑھاتے ہیں:
| فراہم کنندہ | ٹائرز (2026-11-15 کو دیکھا گیا) | اوپر کیسے جائیں |
|---|---|---|
| OpenAI | Free، Build، Launch، Grow | Free: صارف کسی اجازت یافتہ جغرافیائی علاقے میں ہو؛ ماہانہ استعمال کی حد USD 100 (خرچ کی حد، کریڈٹ نہیں)۔ پھر کل کریڈٹ خریداری USD 5، USD 100 اور USD 500، ماہانہ استعمال کی حد USD 500، USD 5,000 اور USD 200,000 کے ساتھ |
| Anthropic | Evaluation، Start، Build، Scale، Custom | خود بخود، استعمال کی تاریخ اور اکاؤنٹ کی حیثیت کی بنیاد پر۔ ماہانہ خرچ کی حدیں: Start USD 500، Build USD 1,000، Scale USD 200,000 |
| Google Gemini API | Free، Tier 1، Tier 2، Tier 3 | Tier 1 کے لیے منسلک بلنگ اکاؤنٹ چاہیے؛ Tier 2 کے لیے USD 100 ادائیگی اور 3 دن؛ Tier 3 کے لیے USD 1,000 اور 30 دن۔ Google کہتا ہے کہ بتائی گئی ریٹ لمٹس “not guaranteed” (ترجمہ: ضمانت شدہ نہیں) ہیں، اور حد بڑھانے کی درخواستوں پر “no guarantees” (ترجمہ: کوئی ضمانت نہیں) دیتا ہے |
| Fireworks AI | Tier 1 سے Tier 4 | Tier 1 کے لیے ادائیگی کا طریقہ، پھر USD 50، USD 500 اور USD 5,000 کا خرچ یا کریڈٹ۔ ٹائرز TPM بڑھاتے ہیں، RPM نہیں |
| xAI | Tier 0 سے Tier 4، Enterprise | 1 جنوری 2026 سے مجموعی خرچ: USD 0، 50، 250، 1,000 اور 5,000 |
عملی طور پر دو باتیں اہم ہیں۔ Anthropic کی خرچ کی حد پوری ہونے پر HTTP 429 آتا ہے، retry-after ہیڈر کے بغیر، اس لیے خودکار دوبارہ کوششیں تب تک ناکام ہوتی رہتی ہیں جب تک مہینہ ری سیٹ نہ ہو یا آپ ٹائر نہ بدلیں۔ اور Anthropic کی ان پٹ کی حد صرف غیر کیش شدہ ان پٹ گنتی ہے: کیش سے پڑھا گیا ان پٹ نہیں گنا جاتا، اس لیے کیش کی زیادہ شرح آپ کا اصل تھروپٹ بڑھا دیتی ہے۔
فراہم کنندہ کے لحاظ سے LLM API ریٹ لمٹس: ابتدائی ٹائر
ہر فراہم کنندہ کے مفت یا پہلے ادا شدہ ٹائر کے اعداد، اس کے اپنے ریٹ لمٹس صفحے سے۔ ڈیش کا مطلب ہے کہ صفحہ اس حد کا کوئی عدد شائع نہیں کرتا؛ اس کا مطلب لامحدود نہیں۔
| فراہم کنندہ | ٹائر اور ماڈل | RPM | TPM | فی دن | بیک وقت درخواستیں |
|---|---|---|---|---|---|
| OpenAI | Build؛ Astra، Sol، Terra | 5,000 | 1,000,000 | – | – |
| OpenAI | Build؛ Luna | 5,000 | 2,000,000 | – | – |
| Anthropic | Start؛ Sonnet 5.5، Opus 5.5، Haiku 5.5 | 4,000 | 2,000,000 ان پٹ (غیر کیش شدہ)، 400,000 آؤٹ پٹ | – | – |
| Google Gemini API | Free؛ Gemini Decision 1 (صفحے پر مفت اعداد والا واحد ماڈل) | 200 | 50,000 | 10,000 درخواستیں | – |
| Google Gemini API | Tier 1؛ Gemini Decision 1 | 1,500 | 1,000,000 | 50,000 درخواستیں | – |
| Groq | مفت پلان کا جدول؛ openai/gpt-oss-120b، qwen/qwen3.8-27b | 30 | 8,000 | 1,000 درخواستیں، 200,000 ٹوکن | – |
| Groq | Developer پلان کا جدول؛ openai/gpt-oss-120b، qwen/qwen3.8-27b | 1,000 | 250,000 | 500,000 درخواستیں | – |
| Cerebras | Free Trial؛ gpt-oss-120b | 5 | 30,000 غیر کیش شدہ (کل 90,000) | 1,000,000 ٹوکن | – |
| Cerebras | Developer (استعمال کے مطابق ادائیگی)؛ gpt-oss-120b | 1,000 | 500,000 غیر کیش شدہ (کل 1,500,000) | کوئی حد نہیں | – |
| Fireworks AI | ادائیگی کے طریقے یا کریڈٹ کے بغیر؛ پورے اکاؤنٹ پر | 10 | – | – | – |
| Fireworks AI | ادائیگی کے طریقے اور کریڈٹ کے ساتھ؛ پورے اکاؤنٹ پر | 6,000 | خرچ کے ٹائر سے طے | – | – |
| DeepInfra | ڈیفالٹ؛ ہر پبلک ماڈل پر | – | – | – | 200 |
| DeepSeek | ڈیفالٹ؛ deepseek-flash (DeepSeek-V4.1-Flash-1017)، ہر اکاؤنٹ پر |
– | – | – | 2,500 |
| DeepSeek | ڈیفالٹ؛ deepseek-v4-pro (DeepSeek-V4-Pro-0813)، ہر اکاؤنٹ پر |
– | – | – | 500 |
| xAI | Tier 0؛ grok-4.7 (150 RPS) | – | 50,000,000 | – | – |
| OpenRouter | :free ماڈلز، USD 10 سے کم کے کریڈٹ خریدے | 20 | – | 50 درخواستیں | – |
| OpenRouter | :free ماڈلز، USD 10 یا زیادہ کے کریڈٹ خریدے | 20 | – | 1,000 درخواستیں | – |
| Cohere | Trial کلید؛ Command A | 20 | – | ماہانہ 1,000 کالز | – |
| Cohere | Production کلید؛ Command A | 500 | – | – | – |
| BroadNet Inference | استعمال کے مطابق ادائیگی والی کلید؛ کوئی بھی ماڈل | 30 | – | – | 4 |
| BroadNet Inference | گھنٹے والی کلید؛ Gemma 4 VL 26B | 120 | 300,000 | – | 1 اسٹریم |
| BroadNet Inference | مقررہ قیمت والے پلان کا سیشن؛ DeepSeek V4.1 Flash | – | کوئی ٹوکن میٹر نہیں | – | ایک وقت میں 1 درخواست |
قطاروں پر نوٹس:
- Groq۔ صفحے پر دو ٹیبز ہیں، “Free Plan Limits” (جو پہلے سے کھلا ہوتا ہے) اور “Developer Plan Limits”۔ ان کے اوپر کا جملہ اعداد کو “the base limits for the Developer plan” (ترجمہ: Developer پلان کی بنیادی حدیں) کہتا ہے، جو صرف دوسرے ٹیب پر لاگو ہوتا ہے؛ اوپر کے جدول میں دونوں ہیں۔ آپ کی آرگنائزیشن کی درست حدیں اس کے limits صفحے پر ہیں۔
- Google۔ حدیں ہر پروجیکٹ پر لاگو ہوتی ہیں، ہر API کلید پر نہیں۔ زیادہ تر ماڈلز کے اعداد صرف AI Studio کے اندر نظر آتے ہیں۔ Gemini Decision 1 دراصل Google کی Decisions API کے لیے classification ماڈل ہے: یہ متن نہیں بلکہ امکانات لوٹاتا ہے، اس لیے اس کی حدیں Gemini کے چیٹ ماڈلز کے بارے میں زیادہ نہیں بتاتیں۔
- Mistral اور Together AI کوئی عدد شائع نہیں کرتے۔ Mistral جدول شائع کرنے کے بجائے آپ کی حدیں اپنے کنسول میں دکھاتا ہے، اور کوئی مفت API رسائی نہیں دیتا (“It doesn’t include API access”؛ ترجمہ: اس میں API رسائی شامل نہیں)۔ Together کہتا ہے کہ مانگ زیادہ ہونے پر وہ “may limit requests” (ترجمہ: درخواستیں محدود کر سکتا ہے)، اور مقبول ماڈلز پر الگ حدیں مقرر کر سکتا ہے۔
- OpenRouter۔ ادا شدہ ماڈل ویریئنٹس پر “no platform-level request cap” (ترجمہ: پلیٹ فارم کی سطح پر درخواستوں کی کوئی حد نہیں) ہے، لیکن ہر ماڈل کے پیچھے موجود فراہم کنندگان کی اپنی حدیں پھر بھی رہتی ہیں۔
- DeepSeek۔ مصروف ہونے پر DeepSeek خالی لائنوں یا
: keep-aliveکمنٹس کے ساتھ کنکشن کھلا رکھتا ہے، اور اگر 10 منٹ میں انفرنس شروع نہ ہو تو اسے بند کر دیتا ہے۔ اپنے کلائنٹ کا ٹائم آؤٹ یہ ذہن میں رکھ کر سیٹ کریں۔
ایمانداری سے، BroadNet کی حدیں کہاں کھڑی ہیں؟
زیادہ حجم والے کام کے لیے یہ کم ہیں۔ BroadNet کی استعمال کے مطابق ادائیگی والی کلید فی منٹ 30 درخواستیں اور بیک وقت 4 جاری درخواستیں دیتی ہے، جبکہ OpenAI اور Anthropic کے پہلے ادا شدہ ٹائرز فی منٹ ہزاروں درخواستیں دیتے ہیں اور Fireworks کارڈ درج ہوتے ہی 6,000 دیتا ہے۔ اگر آپ کو ایک کلید سے فی منٹ ہزاروں چھوٹی درخواستیں بھیجنی ہیں تو کسی بڑے فراہم کنندہ کا ادا شدہ ٹائر بہتر رہے گا۔
دوسری طرح کے کام میں یہ حدیں ٹھیک بیٹھتی ہیں:
- ایجنٹس اور چیٹ۔ ایک ایجنٹ ایک وقت میں ایک درخواست بھیجتا ہے اور جواب کا انتظار کرتا ہے۔ 4 جاری درخواستیں ایک کلید پر چند ایجنٹس سنبھال لیتی ہیں؛ ہر ایپ یا ٹیم کے ساتھی کے لیے الگ کلید سے بوجھ بٹ جاتا ہے۔
- مقررہ قیمت والے پلان۔ Full Moon، Orbit یا Meteor سیشن میں نہ ٹوکن میٹر ہے، نہ روزانہ یا ہفتہ وار حد، لیکن وہ ایک وقت میں ایک درخواست چلاتا ہے، عام طور پر تقریباً 100 ٹوکن فی سیکنڈ کی رفتار سے۔ ایجنٹس متوازی چلانے ہیں تو ہر ایک کے لیے سیشن خریدیں۔ آپ کو کتنے سیشن چاہییں۔
- گھنٹے والی کلید۔ $0.50 فی گھنٹہ میں Gemma 4 VL 26B کی ایک اسٹریم ملتی ہے، فی منٹ 120 درخواستوں اور 300,000 ٹوکن کے ساتھ۔
BroadNet کی تمام حدیں HTTP 429 لوٹاتی ہیں۔ API ریفرنس retry-after کا کوئی وقت نہیں بتاتا، اس لیے جِٹر کے ساتھ محدود بیک آف استعمال کریں۔
ریٹ لمٹ کے مطابق منصوبہ بندی کیسے کریں؟
- معلوم کریں کہ کون سی حد آپ کو باندھتی ہے۔ اپنے سب سے زیادہ ٹریفک کے لیے فی منٹ درخواستیں، فی منٹ ٹوکن اور جاری درخواستیں نکالیں۔ LLM ریٹ لمٹ کیلکولیٹر یہ درخواست کے سائز اور لیٹنسی سے نکال دیتا ہے۔
- کلائنٹ پر تھروٹل کریں۔ شائع شدہ حد سے مطابقت رکھنے والا token bucket زیادہ تر 429 سے بچا لیتا ہے۔ Anthropic سرور کی طرف یہی الگورتھم استعمال کرتا ہے۔
- ہیڈرز پڑھیں۔ Anthropic
anthropic-ratelimit-*ہیڈرز لوٹاتا ہے؛ Groqx-ratelimit-*ہیڈرز لوٹاتا ہے، جن میں درخواستوں والا ہیڈر “always refers to Requests Per Day” (ترجمہ: ہمیشہ فی دن درخواستوں کی طرف اشارہ کرتا ہے)۔retry-afterموجود ہو تو اسے استعمال کریں۔ - بیک آف اور جِٹر کے ساتھ دوبارہ کوشش کریں، اور کوششوں کی تعداد محدود رکھیں۔ 429 ایررز سے نمٹنا میں چلنے والا کوڈ ہے، اور ایررز اور دوبارہ کوشش BroadNet کے اسٹیٹس کوڈز سمجھاتی ہے۔
- مستحکم پری فکس کیش کریں۔ Anthropic پر کیش شدہ ان پٹ ان پٹ کی حد میں نہیں گنا جاتا۔ ہر جگہ یہ لاگت کم کرتا ہے۔
- بڑی جابز پھیلا کر چلائیں۔ Anthropic ریمپ لمٹس بھی لگاتا ہے: ٹریفک میں اچانک اضافہ آپ کی حد سے نیچے بھی 429 لا سکتا ہے۔ بیچ جابز آہستہ شروع کریں۔ Batch API نہ ہو تو دوبارہ شروع ہو سکنے والا بیچ رنر جاب کو اس کی حدوں کے اندر رکھتا ہے۔
- زیادہ مانگیں۔ DeepSeek، DeepInfra، Mistral اور Anthropic، چاروں زیادہ حدوں کے لیے درخواست کا طریقہ بتاتے ہیں۔
BroadNet Inference کہاں فٹ ہوتا ہے
BroadRouter، BroadNet کی اپنی ویب سائٹ ہے، اس لیے اس حصے کو اسی لحاظ سے پرکھیں۔ ایک کلید پر بہت زیادہ درخواستوں کی شرح کے لیے BroadNet Inference درست انتخاب نہیں: اس کی شائع شدہ فی کلید حدیں OpenAI، Anthropic، Fireworks یا Cerebras کے ادا شدہ ٹائرز سے کافی نیچے ہیں۔ یہ ان ایجنٹ اور چیٹ ورک لوڈز کے لیے ٹھیک ہے جو ایک وقت میں چند درخواستیں بھیجتے ہیں، خاص طور پر مقررہ قیمت والے پلان پر، جہاں مصروف ایجنٹ کے لیے نہ ٹوکن میٹر ہے نہ روزانہ حد۔ نئے اکاؤنٹس کو Gemma 4 VL 26B، دونوں ٹرانسکرپشن ماڈلز اور Gemma کی گھنٹے والی کلیدوں کے لیے $5 کا ابتدائی کریڈٹ ملتا ہے؛ DeepSeek، GLM اور Qwen کے لیے ٹاپ اپ ضروری ہے۔ سیلف سروس میں کوئی SLA نہیں۔ API کی حدیں پڑھیں یا پلانز کا موازنہ کریں۔
