BroadRouter
شروع کریں

GDPR اور LLM API: اپنے فراہم کنندہ سے پوچھنے کے 15 سوال

BroadNet Inference ٹیم · 5 منٹ کی پڑھائی · شائع شدہ · اپ ڈیٹ

LLM API کو ذاتی ڈیٹا بھیجنے سے پہلے دستخط شدہ DPA (GDPR آرٹیکل 28)، سب پروسیسرز کی فہرست، ریٹینشن اور ٹریننگ کی تحریری شرائط، پروسیسنگ کا مقام اور یورپی اقتصادی علاقے (EEA) سے باہر ہر منتقلی کی قانونی بنیاد (آرٹیکل 44 تا 49) حاصل کریں۔ پھر بھیجا جانے والا ڈیٹا کم سے کم رکھیں۔ یہ چیک لسٹ ہے، قانونی مشورہ نہیں۔

کسی LLM API کو ذاتی ڈیٹا جانے سے پہلے آپ کے پاس دستخط شدہ ڈیٹا پروسیسنگ معاہدہ (DPA، آرٹیکل 28)، فراہم کنندہ کی سب پروسیسرز کی فہرست، ریٹینشن اور ٹریننگ پر تحریری جواب، پروسیسنگ کا مقام اور EEA سے باہر کسی بھی جگہ کے لیے منتقلی کی بنیاد (آرٹیکل 44 تا 49) ہونی چاہیے۔ پھر جتنا ممکن ہو کم ذاتی ڈیٹا بھیجیں۔ عموماً آپ کنٹرولر (controller) ہوتے ہیں اور فراہم کنندہ آپ کا پروسیسر (processor)۔

یہ چیک لسٹ GDPR (General Data Protection Regulation، یعنی ذاتی ڈیٹا کے تحفظ کا یورپی یونین کا قانون) کے متعلقہ آرٹیکلز کو ایسے سوالوں میں بدلتی ہے جو آپ کسی بھی فراہم کنندہ کو بھیج سکتے ہیں۔ یہ قانونی مشورہ نہیں۔ آپ کے معاملے کے لیے کیا کافی ہے، یہ آپ کا ڈیٹا پروٹیکشن آفیسر یا قانونی مشیر طے کرے گا۔

کیا GDPR کے تحت LLM API فراہم کنندہ پروسیسر ہوتا ہے؟

عام صورت میں، ہاں۔ ڈیٹا کیوں پروسیس ہو (کسی ٹکٹ کا خلاصہ بنانے کے لیے، کسی گاہک کو جواب دینے کے لیے)، یہ آپ طے کرتے ہیں، اور فراہم کنندہ آپ کے لیے اسے پروسیس کرتا ہے۔ تب آرٹیکل 28 مخصوص شرائط والا تحریری معاہدہ لازم کرتا ہے۔ اگر کوئی فراہم کنندہ آپ کے پرامپٹ اپنے مقاصد کے لیے بھی استعمال کرتا ہے، جیسے اپنے ماڈلز کی ٹریننگ، تو اس حصے کے لیے وہ کنٹرولر کے طور پر کام کر رہا ہو سکتا ہے۔ ٹریننگ والا سوال اتنا اہم ہونے کی یہ ایک وجہ ہے۔

EDPB (European Data Protection Board، یورپی ڈیٹا پروٹیکشن بورڈ) کی Opinion 28/2024 خود AI ماڈلز کے اندر موجود ذاتی ڈیٹا سے متعلق ہے۔ EDPB کے Support Pool of Experts کی LLM خطرات کی رپورٹ (10 اپریل 2025) LLM سسٹمز کے پرائیویسی خطرات اور ان کے تدارک کا جائزہ تین مثالوں سے لیتی ہے: گاہکوں کے سوالات کا چیٹ بوٹ، طلبہ کی پیش رفت پر نظر رکھنے والا سسٹم اور ٹریول اسسٹنٹ۔ اسے بیرونی ماہرین نے لکھا ہے اور یہ واضح کرتی ہے کہ ضروری نہیں یہ EDPB کا سرکاری مؤقف ہو، پھر بھی یہ آغاز کے لیے عملی جگہ ہے۔

GDPR کے تحت LLM فراہم کنندہ سے کون سے 15 سوال پوچھیں؟

# فراہم کنندہ سے پوچھیں کیوں (GDPR)
1 کیا آپ DPA پر دستخط کریں گے، اور کیا یہ شرائط کا حصہ ہے یا الگ دستاویز؟ آرٹیکل 28(3)
2 کیا آپ ذاتی ڈیٹا صرف ہماری دستاویزی ہدایات پر پروسیس کرتے ہیں؟ آرٹیکل 28(3)(a)
3 آپ کے سب پروسیسرز کون ہیں، بشمول GPU ہوسٹ اور بیک اپ گنجائش؟ آرٹیکل 28(2)، 28(4)
4 نئے سب پروسیسرز کے بارے میں ہمیں کیسے بتایا جاتا ہے، اور کیا ہم اعتراض کر سکتے ہیں؟ آرٹیکل 28(2)
5 کیا درخواست کے بعد پرامپٹ، فائلیں، آڈیو یا آؤٹ پٹ محفوظ کیے جاتے ہیں؟ کہاں اور کتنی دیر کے لیے؟ آرٹیکل 5(1)(e)
6 کیا ہمارا کوئی مواد ماڈلز کی ٹریننگ، فائن ٹیوننگ یا جانچ میں استعمال ہوتا ہے؟ کیا یہ ڈیفالٹ طور پر بند ہے؟ آرٹیکل 5(1)(b)، آرٹیکل 28(10)
7 بغیر مواد کے کون سے ریکارڈ (IP، ٹوکن گنتی، لاگت) آپ رکھتے ہیں، اور کتنی دیر؟ آرٹیکل 5(1)(c)
8 ڈیٹا کن ممالک میں پروسیس ہوتا ہے، failover سمیت؟ آرٹیکل 44
9 منتقلی کی بنیاد کیا ہے: اڈیکویسی، DPF سرٹیفکیشن یا SCCs؟ آرٹیکل 45، 46
10 کیا ہم پروسیسنگ کو کسی ایک ریجن تک محدود کر سکتے ہیں؟ آرٹیکل 44
11 درخواستوں اور keys پر کون سے حفاظتی اقدامات لاگو ہیں؟ آرٹیکل 32
12 ذاتی ڈیٹا کی بریچ کی صورت میں آپ ہمیں کتنی جلدی بتائیں گے؟ آرٹیکل 33(2)
13 ڈیٹا تک رسائی اور حذف کرنے کی درخواستوں میں آپ کیسے مدد کرتے ہیں؟ آرٹیکل 28(3)(e)
14 کیا آپ کا عملہ کبھی درخواست کا مواد دیکھتا ہے، مثلاً کسی سپورٹ ٹکٹ میں؟ آرٹیکل 28(3)(b)، 32
15 کیا آپ DPIA کے لیے درکار معلومات دیں گے اور آڈٹ کی اجازت دیں گے؟ آرٹیکل 28(3)(f)، 28(3)(h)، آرٹیکل 35

جواب تحریری طور پر مانگیں اور انہیں اپنے پروسیسنگ ریکارڈ (آرٹیکل 30) کے ساتھ رکھیں۔

ریٹینشن اور ٹریننگ الگ سوال کیوں ہیں؟

فراہم کنندگان اکثر ایک کا جواب دیتے ہیں اور دوسرے کو اشارے میں چھوڑ دیتے ہیں۔ دونوں کا جواب لیں:

  • ریٹینشن: کیا درخواست کے بعد مواد محفوظ ہوتا ہے، logs، abuse-monitoring اسٹورز، cache، batch فائلوں یا conversation state میں؟
  • ٹریننگ: کیا مواد ماڈلز بہتر بنانے میں استعمال ہوتا ہے، اور آپ کے اکاؤنٹ کی قسم کے لیے ڈیفالٹ آن ہے یا آف؟

پالیسیاں فراہم کنندگان کے درمیان، اور مفت اور ادا شدہ ٹیئرز کے درمیان، کافی مختلف ہوتی ہیں۔ ہم نے LLM API ڈیٹا ریٹینشن کا موازنہ میں پانچ فراہم کنندگان کے سرکاری الفاظ کا موازنہ کیا ہے۔ زیرو ڈیٹا ریٹینشن کا انتظام ریٹینشن کے سوال کا اچھا جواب ہے، لیکن معاہدہ اور منتقلی کی بنیاد پھر بھی درکار ہے۔ تکنیکی پہلو ہماری ZDR چیک لسٹ میں ہے۔

بین الاقوامی منتقلی: پرامپٹ کہاں جاتے ہیں؟

اگر فراہم کنندہ EEA سے باہر پرامپٹ پروسیس کرتا ہے تو GDPR کا Chapter V لاگو ہوتا ہے۔ عملاً:

  1. اڈیکویسی۔ یورپی کمیشن اڈیکویسی فیصلوں کی فہرست رکھتا ہے۔ امریکا کے لیے EU-US Data Privacy Framework کا فیصلہ (10 جولائی 2023) صرف ان کمپنیوں کا احاطہ کرتا ہے جو Data Privacy Framework List میں شامل ہیں۔ ٹھیک وہی قانونی ادارہ جانچیں جس سے آپ معاہدہ کرتے ہیں۔
  2. Standard Contractual Clauses۔ اگر کمپنی فہرست میں نہیں تو عام بنیاد یورپی کمیشن کی SCCs ہیں، ساتھ میں transfer impact assessment۔
  3. آگے کی منتقلی (onward transfers)۔ پوچھیں کہ سب پروسیسرز ڈیٹا کہاں پروسیس کرتے ہیں۔ ایک ملک کا فراہم کنندہ دوسرے ملک کی گنجائش پر failover کر سکتا ہے۔

دوسرے قوانین مختلف طریقے سے کام کرتے ہیں۔ مثال کے طور پر، مصر بیرونِ ملک زیادہ تر منتقلیوں کے لیے اپنے ڈیٹا پروٹیکشن ریگولیٹر سے لائسنس یا پرمٹ مانگتا ہے؛ دیکھیں مصر کا ڈیٹا پروٹیکشن قانون اور LLM APIs۔ سعودی عرب اور UAE کے لیے PDPL چیک لسٹ دیکھیں۔

بھیجنے سے پہلے ذاتی ڈیٹا کیسے کم کریں؟

سب سے مضبوط کنٹرول وہ ہے جو آپ خود چلاتے ہیں۔ آرٹیکل 5(1)(c) ڈیٹا منیمائزیشن لازم کرتا ہے، اور اس سے اوپر کے ہر جواب سے جڑا آپ کا خطرہ بھی کم ہوتا ہے:

  • نام، ای میل، فون نمبر اور شناختی نمبر ہٹا دیں جن کی ماڈل کو ضرورت نہیں۔
  • ان کی جگہ placeholders لگائیں اور جواب آنے کے بعد انہیں واپس میپ کریں۔
  • خصوصی زمرے کا ڈیٹا (آرٹیکل 9) کبھی نہ بھیجیں، جب تک آپ کے پاس بنیاد اور واضح ضرورت نہ ہو۔
  • اپنے logs میں پرامپٹ کا مواد نہ رکھیں۔

Redaction، placeholders اور logging پر تفصیل LLM API کو حساس ڈیٹا بھیجنا میں ہے۔

فراہم کنندہ کے GDPR جوابات میں خطرے کی علامات کیا ہیں؟

  • “ہم GDPR کے مطابق ہیں”، لیکن دستخط کے لیے کوئی DPA نہیں۔
  • سب پروسیسرز کی کوئی فہرست نہیں، یا ایسی فہرست جس میں GPU ہوسٹ شامل نہیں۔
  • ٹریننگ “ہو سکتی ہے”، اور API صارفین کے لیے کوئی واضح ڈیفالٹ نہیں۔
  • ریٹینشن کو صرف “محدود مدت” کہا گیا۔
  • failover ٹریفک کہاں چلتا ہے، اس کا کوئی جواب نہیں۔

BroadNet Inference کہاں فٹ ہوتا ہے

BroadNet کا پرائیویسی بیان (ستمبر 2026 سے مؤثر) ان میں سے کئی سوالوں کا براہِ راست جواب دیتا ہے۔ اس کے مطابق gateway “keeps no prompts, messages, images, audio, responses or transcripts” (ترجمہ: کوئی پرامپٹ، پیغام، تصویر، آڈیو، جواب یا ٹرانسکرپٹ نہیں رکھتا)، اور “We do not use your inference data to train, fine-tune or evaluate models.” (ترجمہ: ہم آپ کا inference ڈیٹا ماڈلز کی ٹریننگ، فائن ٹیوننگ یا جانچ کے لیے استعمال نہیں کرتے۔) بغیر مواد کے استعمال کے ریکارڈ یہ “for as long as billing, tax, security and legal obligations require” (ترجمہ: اس وقت تک، جب تک بلنگ، ٹیکس، سکیورٹی اور قانونی ذمہ داریوں کے لیے ضروری ہو) رکھتا ہے۔ تفصیل ہمارے زیرو ڈیٹا ریٹینشن صفحے پر ہے۔

مقام کے بارے میں بیان کہتا ہے کہ BroadNet کے اپنے اور ہوسٹ کیے گئے open-weight ماڈلز “on BroadNet-owned or leased hardware in the United States, with partner capacity as backup” (ترجمہ: امریکا میں BroadNet کے اپنے یا لیز پر لیے گئے ہارڈویئر پر، بیک اپ کے طور پر پارٹنر گنجائش کے ساتھ) چلتے ہیں، اور سب پروسیسرز کی موجودہ فہرست “is available to customers on request” (ترجمہ: گاہکوں کو درخواست پر دستیاب ہے)۔ ڈیٹا ریزیڈنسی کی ضرورت ہو تو یہ گاہکوں سے کہتا ہے کہ ڈیٹا بھیجنے سے پہلے پروسیسنگ کے مقامات طے کر لیں۔

یہ کیا احاطہ نہیں کرتا: پرائیویسی بیان میں DPA یا GDPR کا نام لے کر ذکر نہیں۔ اگر آپ یورپی یونین کا ذاتی ڈیٹا پروسیس کرتے ہیں تو لائیو جانے سے پہلے BroadNet سے اس کا DPA، سب پروسیسرز کی فہرست اور منتقلی کی بنیاد مانگیں، بالکل ویسے ہی جیسے اس فہرست کے کسی بھی فراہم کنندہ سے مانگتے۔ آپ IP allow-lists سے keys کو اپنے سرورز تک محدود بھی کر سکتے ہیں۔ فراہم کنندہ کے وسیع تر فیصلے کے لیے 20 نکاتی LLM API چیک لسٹ دیکھیں۔

عام سوالات

کیا کسی LLM فراہم کنندہ کا OpenAI-compatible API استعمال کرنا GDPR کے مطابق ہے؟

کوئی API بذاتِ خود GDPR کے مطابق یا خلاف نہیں ہوتا۔ یہ آپ کی قانونی بنیاد، فراہم کنندہ کے ساتھ آپ کے معاہدے، ڈیٹا کہاں پروسیس ہوتا ہے، کتنی دیر رکھا جاتا ہے اور آپ کیا بھیجتے ہیں، ان سب پر منحصر ہے۔ اس پوسٹ کی چیک لسٹ استعمال کریں اور اپنے DPO (ڈیٹا پروٹیکشن آفیسر) کو شامل کریں۔

کیا LLM API فراہم کنندہ کے ساتھ DPA ضروری ہے؟

اگر فراہم کنندہ آپ کی جانب سے ذاتی ڈیٹا پروسیس کرتا ہے تو ہاں۔ GDPR آرٹیکل 28(3) ایسا معاہدہ لازم کرتا ہے جو پروسیسر کا پابند کرے، جس میں یہ بھی شامل ہے کہ وہ صرف آپ کی دستاویزی ہدایات پر عمل کرے اور سروس ختم ہونے پر ڈیٹا حذف کرے یا واپس کرے۔

کیا امریکی LLM API کو پرامپٹ بھیجنا بین الاقوامی منتقلی ہے؟

اگر پرامپٹ میں ذاتی ڈیٹا ہے اور پروسیسنگ EEA سے باہر ہوتی ہے تو ہاں۔ آپ کو Chapter V کے تحت بنیاد چاہیے، جیسے سرٹیفائیڈ کمپنی کے لیے EU-US Data Privacy Framework، یا منتقلی کے جائزے کے ساتھ Standard Contractual Clauses۔

کیا zero data retention سے LLM API، GDPR کے مطابق ہو جاتا ہے؟

یہ اسٹوریج کی حد میں مدد دیتا ہے اور بریچ کا خطرہ کم کرتا ہے، لیکن درخواست کے دوران فراہم کنندہ پھر بھی ذاتی ڈیٹا پروسیس کرتا ہے۔ آپ کو اب بھی معاہدہ، قانونی بنیاد اور منتقلی کا طریقۂ کار چاہیے۔

کیا EDPB نے LLMs پر کوئی رہنمائی دی ہے؟

ہاں۔ EDPB نے AI ماڈلز میں ذاتی ڈیٹا پر Opinion 28/2024 منظور کی، اور اس کے Support Pool of Experts نے اپریل 2025 میں LLMs کے پرائیویسی خطرات اور ان کے تدارک پر ایک رپورٹ شائع کی۔ رپورٹ خود کہتی ہے کہ یہ EDPB کا سرکاری مؤقف نہیں۔

Markdown میں پڑھیںChatGPT سے پوچھیںClaude سے پوچھیںPerplexity سے پوچھیں