BroadRouter

ज़ीरो डेटा रिटेंशन वाला LLM API: 10 सवालों की चेकलिस्ट

BroadNet Inference टीम · 5 मिनट में पढ़ें · प्रकाशित · अपडेट किया गया

ज़ीरो डेटा रिटेंशन वाला LLM API प्रॉम्प्ट और आउटपुट सिर्फ़ अनुरोध के लिए प्रोसेस करता है और बाद में उन्हें लॉग, कैश या ट्रेनिंग सेट में स्टोर नहीं करता। पूछें कि क्या रखा जाता है (आम तौर पर बिना कंटेंट वाले उपयोग रिकॉर्ड), कितने समय तक, GPU कौन चलाता है और रिटेंशन की जाँच कैसे होती है। BroadNet Inference कोई प्रॉम्प्ट, इमेज, ऑडियो या जवाब नहीं रखता और हर घंटे गेटवे कॉन्फ़िगरेशन जाँचता है।

A glass enclosure with an input entering and a response leaving, labelled "Private inference".

कोडिंग एजेंट पूरी रिपॉज़िटरी भेजते हैं। सपोर्ट बॉट ग्राहकों के मैसेज भेजते हैं। ट्रांसक्रिप्शन पाइपलाइन फ़ोन कॉल भेजती हैं। इनमें से कुछ भी किसी LLM API तक जाने से पहले कोई न कोई पूछेगा: जवाब आने के बाद इस डेटा का क्या होता है? “ज़ीरो डेटा रिटेंशन” (ZDR) वह जवाब है जो लोग सुनना चाहते हैं, लेकिन यह शब्द बहुत अलग-अलग तौर-तरीक़ों के लिए इस्तेमाल होता है।

ज़ीरो डेटा रिटेंशन में क्या-क्या आना चाहिए?

वह कंटेंट जो अनुरोध के बाद नहीं बचना चाहिए:

  • प्रॉम्प्ट, सिस्टम प्रॉम्प्ट और टूल के नतीजे
  • इमेज और ऑडियो
  • मॉडल के आउटपुट और ट्रांसक्रिप्ट
  • अनुरोध और रिस्पॉन्स की पूरी बॉडी, डीबग लॉग समेत
  • कच्चे URL, query string और ऑथेंटिकेशन के मान

वे रिकॉर्ड जो आम तौर पर रखे जाते हैं, और जिनमें कोई कंटेंट नहीं होना चाहिए:

  • अनुरोध ID, समय, HTTP स्टेटस, बाइट की गिनती
  • अकाउंट और key ID, मॉडल, टोकन गिनती, लागत
  • सुरक्षा के लिए क्लाइंट के IP पते

अगर प्रोवाइडर यह नहीं बता सकता कि हर चीज़ किस लिस्ट में है, तो इसे “नहीं” ही मानें।

क्या ट्रेनिंग, रिटेंशन और ZDR एक ही वादा हैं?

वादा इसका मतलब इसका मतलब यह नहीं
“ट्रेनिंग में इस्तेमाल नहीं होता” आपका डेटा भविष्य के मॉडल ट्रेन नहीं करेगा फिर भी वह कुछ समय तक स्टोर रह सकता है
“N दिन तक रखा जाता है” कंटेंट रखा जाता है, फिर डिलीट होता है इस बीच स्टाफ़ या सिस्टम उसे देख सकते हैं
“ज़ीरो डेटा रिटेंशन” अनुरोध के बाद कंटेंट स्टोर नहीं होता मेटाडेटा फिर भी रखा जाता है

बड़े प्रोवाइडर दिखाते हैं कि यह फ़र्क़ क्यों मायने रखता है। कई प्रोवाइडर के आधिकारिक शब्दों की आमने-सामने तुलना के लिए LLM API डेटा रिटेंशन की तुलना देखें। OpenAI का डेटा कंट्रोल पेज कहता है कि 1 मार्च 2023 से API डेटा डिफ़ॉल्ट रूप से उसके मॉडल ट्रेन करने में इस्तेमाल नहीं होता। वही पेज कहता है कि दुरुपयोग निगरानी के लॉग “are retained for up to 30 days” (अनुवाद: 30 दिन तक रखे जाते हैं), कि ZDR कंट्रोल “are subject to prior approval by OpenAI” (अनुवाद: OpenAI की पूर्व मंज़ूरी पर निर्भर हैं), और कि स्टेट स्टोर करने वाले एंडपॉइंट, जैसे files, assistants और batches, इसके योग्य नहीं हैं। कोई प्रोवाइडर तीनों बातों पर ईमानदार रहकर भी डिफ़ॉल्ट रूप से आपका कंटेंट एक महीने तक रख सकता है।

ZDR के वादों में आम तौर पर कहाँ कमियाँ रहती हैं?

  • योग्यता। ZDR के लिए मंज़ूरी, कोई ख़ास प्लान या अनुबंध चाहिए हो सकता है, और जब तक चालू न किया जाए, वह बंद रहता है।
  • एंडपॉइंट का दायरा। चैट योग्य हो सकता है, जबकि फ़ाइल स्टोरेज, बैच या फ़ाइन-ट्यूनिंग नहीं।
  • सुरक्षा से जुड़े अपवाद। उदाहरण के लिए, OpenRouter का FAQ ZDR को ऐसे परिभाषित करता है: “no routine storage of prompts or responses after processing, apart from a CSAM exception” (अनुवाद: प्रोसेसिंग के बाद प्रॉम्प्ट या रिस्पॉन्स का कोई नियमित स्टोरेज नहीं, CSAM वाले अपवाद को छोड़कर)।
  • मॉडल के ऊपर की परतें। बीच में मौजूद गेटवे, राउटर या ऑब्ज़र्वेबिलिटी टूल प्रॉम्प्ट लॉग कर सकता है, भले मॉडल प्रोवाइडर न करे। हर परत से पूछें।
  • आपके अपने सिस्टम। आपके ऐप लॉग, एरर ट्रैकर और एनालिटिक्स अक्सर प्रोवाइडर से ज़्यादा कंटेंट रखते हैं।

प्रोवाइडर से कौन-से 10 सवाल पूछें?

  1. क्या अनुरोध के बाद प्रॉम्प्ट और आउटपुट स्टोर होते हैं? कहीं भी? लॉग, कैश, क्यू और बैकअप भी शामिल करें।
  2. क्या कोई कंटेंट ट्रेनिंग या इवैल्युएशन में इस्तेमाल होता है? आपके द्वारा या किसी मॉडल वेंडर के द्वारा?
  3. आप फ़ील्ड-दर-फ़ील्ड क्या रखते हैं? लिस्ट माँगें।
  4. उपयोग के रिकॉर्ड कितने समय तक रखे जाते हैं, और क्यों?
  5. GPU कौन चलाता है? आपका प्रोवाइडर, कोई क्लाउड, या किसी रीसेलर का रीसेलर?
  6. कौन-से सबप्रोसेसर अनुरोध का कंटेंट देख सकते हैं?
  7. रिटेंशन की पुष्टि कैसे होती है? सिर्फ़ एक नीति, या कोई ऑटोमेटेड जाँच?
  8. क्या key को मेरे IP पतों तक सीमित किया जा सकता है? लीक हुई key भी डेटा का एक रास्ता है।
  9. हार्डवेयर कहाँ है, और क्या किसी ख़ास क्षेत्र में रखने का विकल्प है?
  10. सपोर्ट टिकट पर क्या होता है? बग रिपोर्ट करने पर क्या स्टाफ़ कंटेंट देख सकता है?

जवाब लिखित में माँगें, और नोट करें कि कौन-सा दस्तावेज़ उन्हें बाध्यकारी बनाता है: शर्तें, प्राइवेसी स्टेटमेंट या हस्ताक्षरित अनुबंध।

BroadNet Inference इनके क्या जवाब देता है?

सवाल BroadNet Inference
प्रॉम्प्ट, इमेज, ऑडियो, जवाब स्टोर होते हैं नहीं; अनुरोध के लिए प्रोसेस होते हैं और रखे नहीं जाते
आपके डेटा पर ट्रेनिंग नहीं; प्राइवेसी स्टेटमेंट इन्फ़रेंस डेटा पर ट्रेनिंग, फ़ाइन-ट्यूनिंग और इवैल्युएशन को नकारता है
क्या रखा जाता है बिना कंटेंट वाले ट्रैफ़िक, उपयोग और अकाउंट रिकॉर्ड (पूरी लिस्ट)
रिकॉर्ड कितने समय तक रखे जाते हैं जितना बिलिंग, टैक्स, सुरक्षा और क़ानूनी दायित्वों के लिए ज़रूरी हो
पुष्टि हर घंटे गेटवे कॉन्फ़िगरेशन की जाँच कि वह बिना कंटेंट के चल रहा है
हार्डवेयर प्राइवेसी स्टेटमेंट कहता है कि होस्ट किए गए मॉडल “BroadNet-owned or leased hardware in the United States, with partner capacity as backup” (अनुवाद: अमेरिका में BroadNet के अपने या लीज़ पर लिए हार्डवेयर पर, बैकअप के रूप में पार्टनर क्षमता के साथ) पर चलते हैं; पार्टनर से चलने वाले मॉडल अमेरिकी इन्फ़रेंस पार्टनर के साथ ZDR शर्तों पर
डेटा रेज़िडेंसी रेज़िडेंसी की ज़रूरत वाला डेटा भेजने से पहले BroadNet से प्रोसेसिंग की जगह तय करें (GDPR चेकलिस्ट)
key की सुरक्षा IP allow-list, 32 तक एंट्री; बदलाव और key रद्द करना पाँच सेकंड के अंदर नए अनुरोधों पर लागू
स्टोर की गई key सिर्फ़ SHA-256 हैश; असली key एक बार दिखाई जाती है

BroadNet के डॉक्स ज़ीरो डेटा रिटेंशन को “built into how we serve requests, not only stated in policy” (अनुवाद: अनुरोध सर्व करने के हमारे तरीक़े में ही शामिल, सिर्फ़ नीति में लिखा हुआ नहीं) बताते हैं। यह हर अनुरोध पर लागू होता है, और इसे चालू करने की कोई सेटिंग नहीं है। पूरी जानकारी प्राइवेसी स्टेटमेंट में है।

क्या ZDR स्पीच और अरबी ऑडियो पर भी लागू होता है?

ज़्यादातर प्रोडक्ट जो इनपुट सँभालते हैं, उनमें आवाज़ सबसे संवेदनशील है: दस सेकंड के वॉइस नोट में नाम, फ़ोन नंबर और सेहत से जुड़ी कोई जानकारी हो सकती है। अगर आप कॉल या WhatsApp वॉइस नोट ट्रांसक्राइब करते हैं, तो ऑडियो और ट्रांसक्रिप्ट के बारे में भी यही दस सवाल पूछें। अरबी स्पीच-टू-टेक्स्ट ख़रीदार गाइड देखें।

प्रोवाइडर के जवाबों की जाँच कैसे करें?

  1. प्राइवेसी स्टेटमेंट और API रेफ़रंस पढ़ें, सिर्फ़ मार्केटिंग पेज नहीं। फ़ील्ड-दर-फ़ील्ड लिस्ट ढूँढें।
  2. दायरा जाँचें। वादा किन मॉडल, एंडपॉइंट और प्लान पर लागू है?
  3. देखें कि API क्या लौटाता है। अगर कोई डैशबोर्ड आपके पुराने प्रॉम्प्ट दिखाता है, तो वे कहीं न कहीं स्टोर हैं।
  4. सपोर्ट की प्रक्रिया के बारे में पूछें। टिकट खोलने पर कौन क्या देख सकता है?
  5. जवाब अपने वेंडर रिकॉर्ड में लिखें, लिंक और जाँच की तारीख़ के साथ।

ZDR क्या ठीक नहीं करता?

ज़ीरो डेटा रिटेंशन उसकी रक्षा करता है जो आपका अनुरोध प्रोवाइडर तक पहुँचने के बाद होता है। आपको फिर भी ये करना होगा:

  • API key सर्वर पर रखें, ब्राउज़र या मोबाइल ऐप में कभी नहीं
  • IP allow-list से key को अपने egress IP तक सीमित करें
  • जो मॉडल को नहीं चाहिए, जैसे कार्ड नंबर, उसे हटा दें (भेजने से पहले redact कैसे करें)
  • अपनी तरफ़ अनुरोध ID लॉग करें, ताकि प्रोवाइडर के कंटेंट स्टोर किए बिना आप डीबग कर सकें; एरर गाइड बताती है कि सपोर्ट को क्या भेजें

किसी ऐप को एक प्रोवाइडर से दूसरे पर ले जाते समय ये जाँचें माइग्रेशन चेकलिस्ट में जोड़ें। अगर आप किसी गेटवे से होकर जाते हैं, तो उससे भी यही सवाल पूछें; OpenRouter से तुलना दिखाती है कि एक राउटर ZDR को कैसे सँभालता है।

BroadNet Inference कहाँ फ़िट होता है

BroadNet Inference उन टीमों के लिए ठीक है जो बिना आवेदन किए हर अनुरोध पर ZDR चाहती हैं, पार्टनर-होस्टेड मॉडल पर भी, जो इसके प्राइवेसी स्टेटमेंट के अनुसार अमेरिकी इन्फ़रेंस पार्टनर के साथ ज़ीरो-डेटा-रिटेंशन शर्तों पर चलते हैं। हर प्रोवाइडर की तरह यह भी बिलिंग और सुरक्षा के लिए बिना कंटेंट वाले रिकॉर्ड रखता है। अगर आपको अपना डेटा किसी ख़ास क्षेत्र में प्रोसेस करवाना है, तो डेटा भेजने से पहले BroadNet से प्रोसेसिंग की जगह तय करें; इसके अपने और होस्ट किए गए मॉडल के लिए डिफ़ॉल्ट अमेरिका है।

अक्सर पूछे जाने वाले सवाल

LLM API के लिए ज़ीरो डेटा रिटेंशन का क्या मतलब है?

प्रोवाइडर अनुरोध का जवाब देने के लिए आपके प्रॉम्प्ट, फ़ाइलें और आउटपुट प्रोसेस करता है और बाद में वह कंटेंट स्टोर नहीं करता, न लॉग में, न कैश, बैकअप या ट्रेनिंग सेट में। समय और टोकन गिनती जैसे बिना कंटेंट वाले रिकॉर्ड आम तौर पर फिर भी रखे जाते हैं।

क्या ज़ीरो डेटा रिटेंशन का मतलब है कि कोई लॉग ही नहीं रखा जाता?

नहीं। प्रोवाइडर समय, टोकन गिनती, लागत, स्टेटस कोड और IP पते जैसे ऑपरेशनल रिकॉर्ड रखते हैं। ज़ीरो डेटा रिटेंशन का मतलब है कि उन रिकॉर्ड में प्रॉम्प्ट या आउटपुट का कोई कंटेंट नहीं होता।

क्या “हम आपके डेटा पर ट्रेनिंग नहीं करते” और ज़ीरो डेटा रिटेंशन एक ही बात है?

नहीं। प्रोवाइडर API डेटा पर ट्रेनिंग न करने का वादा कर सकता है और फिर भी उसे कुछ समय के लिए रख सकता है, जैसे दुरुपयोग की निगरानी के लिए। OpenAI के डॉक्स कहते हैं कि API डेटा डिफ़ॉल्ट रूप से ट्रेनिंग में इस्तेमाल नहीं होता, और दुरुपयोग निगरानी के लॉग 30 दिन तक रखे जाते हैं।

क्या BroadNet Inference पर मेरे प्रॉम्प्ट से मॉडल ट्रेन होते हैं?

नहीं। BroadNet का प्राइवेसी स्टेटमेंट कहता है कि वह इन्फ़रेंस डेटा को "to train, fine-tune or evaluate models" (अनुवाद: मॉडल को ट्रेन, फ़ाइन-ट्यून या इवैल्युएट करने के लिए) इस्तेमाल नहीं करता, और प्रॉम्प्ट, इमेज, ऑडियो, जवाब और ट्रांसक्रिप्ट अनुरोध के बाद नहीं रखे जाते।

क्या GDPR के लिए ज़ीरो डेटा रिटेंशन काफ़ी है?

मदद करता है, पर अकेले मामला हल नहीं करता। आपको फिर भी क़ानूनी आधार, प्रोसेसिंग का रिकॉर्ड और हर प्रोसेसर के साथ अनुबंध चाहिए। अपने डेटा प्रोटेक्शन प्रमुख से पूछें; ZDR यह घटाता है कि प्रोवाइडर के पास क्या रहता है, आपकी अपनी ज़िम्मेदारियाँ नहीं।

BroadNet अपने मॉडल कहाँ चलाता है?

BroadNet के प्राइवेसी स्टेटमेंट के अनुसार उसके अपने और होस्ट किए गए ओपन-वेट मॉडल अमेरिका में BroadNet के अपने या लीज़ पर लिए हार्डवेयर पर चलते हैं, और पार्टनर की क्षमता बैकअप है। पार्टनर से चलने वाले मॉडल अमेरिकी इन्फ़रेंस पार्टनर के साथ ज़ीरो-डेटा-रिटेंशन शर्तों पर चलते हैं। डेटा रेज़िडेंसी की ज़रूरत वाला डेटा भेजने से पहले BroadNet से प्रोसेसिंग की जगह तय करें।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें