BroadRouter
شروع کریں

زیرو ڈیٹا ریٹینشن والا LLM API: 10 سوالوں کی چیک لسٹ

BroadNet Inference ٹیم · 5 منٹ کی پڑھائی · شائع شدہ · اپ ڈیٹ

زیرو ڈیٹا ریٹینشن والا LLM API پرامپٹس اور آؤٹ پٹس صرف درخواست کے لیے پروسیس کرتا ہے اور بعد میں انہیں لاگز، کیش یا ٹریننگ سیٹس میں محفوظ نہیں کرتا۔ پوچھیں کہ کیا رکھا جاتا ہے (عموماً مواد سے خالی استعمال کے ریکارڈ)، کتنی دیر، GPUs کون چلاتا ہے اور ریٹینشن کی جانچ کیسے ہوتی ہے۔ BroadNet Inference کوئی پرامپٹ، تصویر، آڈیو یا جواب نہیں رکھتا اور ہر گھنٹے گیٹ وے کنفیگریشن جانچتا ہے۔

A glass enclosure with an input entering and a response leaving, labelled "Private inference".

کوڈنگ ایجنٹس پوری ریپوزٹریز بھیجتے ہیں۔ سپورٹ بوٹس گاہکوں کے پیغامات بھیجتے ہیں۔ ٹرانسکرپشن پائپ لائنز فون کالز بھیجتی ہیں۔ ان میں سے کچھ بھی کسی LLM API تک جانے سے پہلے کوئی نہ کوئی پوچھے گا: جواب آنے کے بعد اس ڈیٹا کا کیا ہوتا ہے؟ “زیرو ڈیٹا ریٹینشن” (ZDR) وہ جواب ہے جو لوگ سننا چاہتے ہیں، لیکن یہ اصطلاح بہت مختلف طریقوں کے لیے استعمال ہوتی ہے۔

زیرو ڈیٹا ریٹینشن میں کیا کیا آنا چاہیے؟

وہ مواد جو درخواست کے بعد باقی نہیں رہنا چاہیے:

  • پرامپٹس، سسٹم پرامپٹس اور ٹول کے نتائج
  • تصاویر اور آڈیو
  • ماڈل کے آؤٹ پٹس اور ٹرانسکرپٹس
  • درخواست اور ریسپانس کی مکمل باڈیز، ڈیبگ لاگز سمیت
  • خام URLs، query strings اور تصدیقی قدریں

وہ ریکارڈ جو عموماً رکھے جاتے ہیں، اور جن میں کوئی مواد نہیں ہونا چاہیے:

  • درخواست کی IDs، اوقات، HTTP اسٹیٹس، بائٹس کی گنتی
  • اکاؤنٹ اور کلید کی IDs، ماڈل، ٹوکن کی گنتی، لاگت
  • سیکیورٹی کے لیے کلائنٹ کے IP پتے

اگر فراہم کنندہ یہ نہیں بتا سکتا کہ ہر چیز کس فہرست میں ہے تو اسے “نہیں” ہی سمجھیں۔

کیا ٹریننگ، ریٹینشن اور ZDR ایک ہی وعدہ ہیں؟

وعدہ اس کا مطلب اس کا مطلب یہ نہیں
“ٹریننگ میں استعمال نہیں ہوتا” آپ کا ڈیٹا مستقبل کے ماڈلز ٹرین نہیں کرے گا پھر بھی وہ کچھ عرصہ محفوظ رہ سکتا ہے
“N دن تک رکھا جاتا ہے” مواد رکھا جاتا ہے، پھر حذف ہوتا ہے اس دوران عملہ یا سسٹمز اسے دیکھ سکتے ہیں
“زیرو ڈیٹا ریٹینشن” درخواست کے بعد مواد محفوظ نہیں ہوتا میٹا ڈیٹا پھر بھی رکھا جاتا ہے

بڑے فراہم کنندگان دکھاتے ہیں کہ یہ فرق کیوں اہم ہے۔ کئی فراہم کنندگان کے سرکاری الفاظ کے آمنے سامنے موازنے کے لیے LLM API ڈیٹا ریٹینشن کا موازنہ دیکھیں۔ OpenAI کا ڈیٹا کنٹرولز صفحہ کہتا ہے کہ 1 مارچ 2023 سے API ڈیٹا ڈیفالٹ طور پر اس کے ماڈلز کی ٹریننگ میں استعمال نہیں ہوتا۔ وہی صفحہ کہتا ہے کہ غلط استعمال کی نگرانی کے لاگز “are retained for up to 30 days” (ترجمہ: 30 دن تک رکھے جاتے ہیں)، کہ ZDR کنٹرولز “are subject to prior approval by OpenAI” (ترجمہ: OpenAI کی پیشگی منظوری سے مشروط ہیں)، اور کہ اسٹیٹ محفوظ کرنے والے اینڈپوائنٹس، جیسے files، assistants اور batches، اس کے اہل نہیں۔ کوئی فراہم کنندہ تینوں باتوں پر ایماندار رہ کر بھی ڈیفالٹ طور پر آپ کا مواد ایک مہینے تک رکھ سکتا ہے۔

ZDR کے وعدوں میں عموماً کہاں خامیاں ہوتی ہیں؟

  • اہلیت۔ ZDR کے لیے منظوری، کوئی خاص پلان یا معاہدہ درکار ہو سکتا ہے، اور جب تک آن نہ کیا جائے وہ بند رہتا ہے۔
  • اینڈپوائنٹ کا دائرہ۔ چیٹ اہل ہو سکتی ہے، جبکہ فائل اسٹوریج، بیچز یا فائن ٹیوننگ نہیں۔
  • حفاظت سے متعلق استثنا۔ مثال کے طور پر OpenRouter کا FAQ ZDR کی تعریف یوں کرتا ہے: “no routine storage of prompts or responses after processing, apart from a CSAM exception” (ترجمہ: پروسیسنگ کے بعد پرامپٹس یا ریسپانسز کا کوئی معمول کا ذخیرہ نہیں، CSAM والے استثنا کے سوا)۔
  • ماڈل کے اوپر کی تہیں۔ درمیان میں موجود گیٹ وے، راؤٹر یا آبزرویبلٹی ٹول پرامپٹس لاگ کر سکتا ہے، چاہے ماڈل فراہم کنندہ نہ کرے۔ ہر تہ سے پوچھیں۔
  • آپ کے اپنے سسٹمز۔ آپ کے ایپ لاگز، ایرر ٹریکرز اور اینالیٹکس اکثر فراہم کنندہ سے زیادہ مواد رکھتے ہیں۔

فراہم کنندہ سے کون سے 10 سوال پوچھیں؟

  1. کیا درخواست کے بعد پرامپٹس اور آؤٹ پٹس محفوظ ہوتے ہیں؟ کہیں بھی؟ لاگز، کیش، قطاریں اور بیک اپس بھی شامل کریں۔
  2. کیا کوئی مواد ٹریننگ یا جانچ میں استعمال ہوتا ہے؟ آپ کی طرف سے یا کسی ماڈل وینڈر کی طرف سے؟
  3. آپ فیلڈ بہ فیلڈ کیا رکھتے ہیں؟ فہرست مانگیں۔
  4. استعمال کے ریکارڈ کتنی دیر رکھے جاتے ہیں، اور کیوں؟
  5. GPUs کون چلاتا ہے؟ آپ کا فراہم کنندہ، کوئی کلاؤڈ، یا کسی ری سیلر کا ری سیلر؟
  6. کون سے ذیلی پروسیسرز درخواست کا مواد دیکھ سکتے ہیں؟
  7. ریٹینشن کی تصدیق کیسے ہوتی ہے؟ صرف ایک پالیسی، یا کوئی خودکار جانچ؟
  8. کیا کلیدیں میرے IP پتوں تک محدود کی جا سکتی ہیں؟ لیک شدہ کلید بھی ڈیٹا کا ایک راستہ ہے۔
  9. ہارڈویئر کہاں ہے، اور کیا کسی خاص علاقے میں رکھنے کا آپشن ہے؟
  10. سپورٹ ٹکٹ پر کیا ہوتا ہے؟ بگ رپورٹ کرنے پر کیا عملہ مواد دیکھ سکتا ہے؟

جوابات تحریری شکل میں مانگیں، اور نوٹ کریں کہ کون سی دستاویز انہیں پابند بناتی ہے: شرائط، پرائیویسی بیان یا دستخط شدہ معاہدہ۔

BroadNet Inference ان کے کیا جواب دیتا ہے؟

سوال BroadNet Inference
پرامپٹس، تصاویر، آڈیو، جوابات محفوظ ہوتے ہیں نہیں؛ درخواست کے لیے پروسیس ہوتے ہیں اور رکھے نہیں جاتے
آپ کے ڈیٹا پر ٹریننگ نہیں؛ پرائیویسی بیان انفرنس ڈیٹا پر ٹریننگ، فائن ٹیوننگ اور جانچ کو خارج کرتا ہے
کیا رکھا جاتا ہے مواد سے خالی ٹریفک، استعمال اور اکاؤنٹ کے ریکارڈ (مکمل فہرست)
ریکارڈ کتنی دیر رکھے جاتے ہیں جتنا بلنگ، ٹیکس، سیکیورٹی اور قانونی ذمہ داریوں کے لیے ضروری ہو
تصدیق ہر گھنٹے گیٹ وے کنفیگریشن کی جانچ کہ وہ بغیر مواد کے چل رہا ہے
ہارڈویئر پرائیویسی بیان کہتا ہے کہ ہوسٹ کیے گئے ماڈلز “run on BroadNet-owned or leased hardware in the United States, with partner capacity as backup” (ترجمہ: امریکہ میں BroadNet کی ملکیت یا لیز پر لیے گئے ہارڈویئر پر چلتے ہیں، بیک اپ کے طور پر پارٹنر گنجائش کے ساتھ)؛ پارٹنر سے چلنے والے ماڈلز امریکی انفرنس پارٹنرز کے ساتھ ZDR شرائط پر چلتے ہیں
ڈیٹا ریزیڈنسی ریزیڈنسی کی شرط والا ڈیٹا بھیجنے سے پہلے BroadNet سے پروسیسنگ کی جگہیں طے کریں (GDPR چیک لسٹ)
کلید کی حفاظت IP allow-lists، 32 تک اندراجات؛ تبدیلیاں اور منسوخیاں پانچ سیکنڈ کے اندر نئی درخواستوں پر لاگو
محفوظ کی گئی کلیدیں صرف SHA-256 ہیش؛ اصل کلید ایک بار دکھائی جاتی ہے

BroadNet کی دستاویزات زیرو ڈیٹا ریٹینشن کو “built into how we serve requests, not only stated in policy” (ترجمہ: درخواستیں سرو کرنے کے ہمارے طریقے میں ہی شامل، صرف پالیسی میں لکھا ہوا نہیں) بتاتی ہیں۔ یہ ہر درخواست پر لاگو ہوتا ہے، اور اسے آن کرنے کی کوئی سیٹنگ نہیں۔ تفصیلات پرائیویسی بیان میں ہیں۔

کیا ZDR اسپیچ اور عربی آڈیو پر بھی لاگو ہوتا ہے؟

زیادہ تر پروڈکٹس جو ان پٹ سنبھالتے ہیں، ان میں آواز سب سے حساس ہے: دس سیکنڈ کے وائس نوٹ میں نام، فون نمبر اور صحت سے متعلق کوئی تفصیل ہو سکتی ہے۔ اگر آپ کالز یا WhatsApp وائس نوٹس ٹرانسکرائب کرتے ہیں تو آڈیو اور ٹرانسکرپٹس کے بارے میں بھی یہی دس سوال پوچھیں۔ عربی اسپیچ ٹو ٹیکسٹ خریدار گائیڈ دیکھیں۔

فراہم کنندہ کے جوابات کی جانچ کیسے کریں؟

  1. پرائیویسی بیان اور API ریفرنس پڑھیں، صرف مارکیٹنگ صفحہ نہیں۔ فیلڈ بہ فیلڈ فہرست تلاش کریں۔
  2. دائرہ جانچیں۔ وعدہ کن ماڈلز، اینڈپوائنٹس اور پلانز پر لاگو ہے؟
  3. دیکھیں کہ API کیا لوٹاتا ہے۔ اگر کوئی ڈیش بورڈ آپ کے پرانے پرامپٹس دکھاتا ہے تو وہ کہیں نہ کہیں محفوظ ہیں۔
  4. سپورٹ کے عمل کے بارے میں پوچھیں۔ ٹکٹ کھولنے پر کون کیا دیکھ سکتا ہے؟
  5. جوابات اپنے وینڈر ریکارڈ میں لکھیں، لنکس اور جانچ کی تاریخ کے ساتھ۔

ZDR کیا ٹھیک نہیں کرتا؟

زیرو ڈیٹا ریٹینشن اس کی حفاظت کرتا ہے جو آپ کی درخواست فراہم کنندہ تک پہنچنے کے بعد ہوتا ہے۔ آپ کو پھر بھی یہ کرنا ہوگا:

  • API کلیدیں سرورز پر رکھیں، براؤزرز یا موبائل ایپس میں کبھی نہیں
  • IP allow-list سے کلیدوں کو اپنے egress IPs تک محدود کریں
  • جو ماڈل کو نہیں چاہیے، جیسے کارڈ نمبرز، اسے ہٹا دیں (بھیجنے سے پہلے redact کیسے کریں)
  • اپنی طرف درخواست کی IDs لاگ کریں، تاکہ فراہم کنندہ کے مواد محفوظ کیے بغیر آپ ڈیبگ کر سکیں؛ ایررز گائیڈ بتاتی ہے کہ سپورٹ کو کیا بھیجیں

کسی ایپ کو ایک فراہم کنندہ سے دوسرے پر منتقل کرتے وقت یہ جانچیں منتقلی کی چیک لسٹ میں شامل کریں۔ اگر آپ کسی گیٹ وے سے گزرتے ہیں تو اس سے بھی یہی سوال پوچھیں؛ OpenRouter سے موازنہ دکھاتا ہے کہ ایک راؤٹر ZDR کو کیسے سنبھالتا ہے۔

BroadNet Inference کہاں فٹ ہوتا ہے

BroadNet Inference ان ٹیموں کے لیے موزوں ہے جو درخواست دیے بغیر ہر درخواست پر ZDR چاہتی ہیں، بشمول پارٹنر کے ہاں ہوسٹ ماڈلز کے، جو اس کے پرائیویسی بیان کے مطابق امریکی انفرنس پارٹنرز کے ساتھ زیرو ڈیٹا ریٹینشن کی شرائط پر چلتے ہیں۔ ہر فراہم کنندہ کی طرح یہ بھی بلنگ اور سیکیورٹی کے لیے مواد سے خالی ریکارڈ رکھتا ہے۔ اگر آپ کو اپنا ڈیٹا کسی خاص علاقے میں پروسیس کروانا ہے تو ڈیٹا بھیجنے سے پہلے BroadNet سے پروسیسنگ کی جگہیں طے کریں؛ اس کے اپنے اور ہوسٹ کیے گئے ماڈلز کے لیے ڈیفالٹ امریکہ ہے۔

عام سوالات

LLM API کے لیے زیرو ڈیٹا ریٹینشن کا کیا مطلب ہے؟

فراہم کنندہ درخواست کا جواب دینے کے لیے آپ کے پرامپٹس، فائلیں اور آؤٹ پٹس پروسیس کرتا ہے اور بعد میں وہ مواد محفوظ نہیں کرتا، نہ لاگز میں، نہ کیش، بیک اپس یا ٹریننگ سیٹس میں۔ اوقات اور ٹوکن کی گنتی جیسے مواد سے خالی ریکارڈ عموماً پھر بھی رکھے جاتے ہیں۔

کیا زیرو ڈیٹا ریٹینشن کا مطلب ہے کہ کوئی لاگ ہی نہیں رکھا جاتا؟

نہیں۔ فراہم کنندگان اوقات، ٹوکن کی گنتی، لاگت، اسٹیٹس کوڈز اور IP پتوں جیسے آپریشنل ریکارڈ رکھتے ہیں۔ زیرو ڈیٹا ریٹینشن کا مطلب ہے کہ ان ریکارڈز میں پرامپٹ یا آؤٹ پٹ کا کوئی مواد نہیں ہوتا۔

کیا ”ہم آپ کے ڈیٹا پر ٹریننگ نہیں کرتے“ اور زیرو ڈیٹا ریٹینشن ایک ہی بات ہے؟

نہیں۔ فراہم کنندہ API ڈیٹا پر ٹریننگ نہ کرنے کا وعدہ کر سکتا ہے اور پھر بھی اسے کچھ عرصے کے لیے رکھ سکتا ہے، مثلاً غلط استعمال کی نگرانی کے لیے۔ OpenAI کی دستاویزات کہتی ہیں کہ API ڈیٹا ڈیفالٹ طور پر ٹریننگ میں استعمال نہیں ہوتا، اور غلط استعمال کی نگرانی کے لاگز 30 دن تک رکھے جاتے ہیں۔

کیا BroadNet Inference پر میرے پرامپٹس سے ماڈلز ٹرین ہوتے ہیں؟

نہیں۔ BroadNet کا پرائیویسی بیان کہتا ہے کہ وہ انفرنس ڈیٹا کو "to train, fine-tune or evaluate models" (ترجمہ: ماڈلز کو ٹرین، فائن ٹیون یا جانچنے کے لیے) استعمال نہیں کرتا، اور پرامپٹس، تصاویر، آڈیو، جوابات اور ٹرانسکرپٹس درخواست کے بعد نہیں رکھے جاتے۔

کیا GDPR کے لیے زیرو ڈیٹا ریٹینشن کافی ہے؟

مدد کرتا ہے، لیکن اکیلے معاملہ طے نہیں کرتا۔ آپ کو پھر بھی قانونی بنیاد، پروسیسنگ کا ریکارڈ اور ہر پروسیسر کے ساتھ معاہدہ چاہیے۔ اپنے ڈیٹا پروٹیکشن سربراہ سے پوچھیں؛ ZDR یہ کم کرتا ہے کہ فراہم کنندہ کے پاس کیا رہتا ہے، آپ کی اپنی ذمہ داریاں نہیں۔

BroadNet اپنے ماڈلز کہاں چلاتا ہے؟

BroadNet کے پرائیویسی بیان کے مطابق اس کے اپنے اور ہوسٹ کیے گئے اوپن ویٹ ماڈلز امریکہ میں BroadNet کے اپنے یا لیز پر لیے گئے ہارڈویئر پر چلتے ہیں، اور پارٹنر کی صلاحیت بیک اپ ہے۔ پارٹنر سے چلنے والے ماڈلز امریکی انفرنس پارٹنرز کے ساتھ زیرو ڈیٹا ریٹینشن کی شرائط پر چلتے ہیں۔ ڈیٹا ریزیڈنسی کی شرط والا ڈیٹا بھیجنے سے پہلے BroadNet سے پروسیسنگ کی جگہیں طے کریں۔

Markdown میں پڑھیںChatGPT سے پوچھیںClaude سے پوچھیںPerplexity سے پوچھیں