---
title: "LLM संवेदनशील डेटा सुरक्षा जाँच: BroadNet का तरीक़ा | BroadRouter"
description: "डिप्लॉय करने से पहले LLM credentials, PII, हेल्थ या वित्तीय डेटा लीक करता है या नहीं, यह परखने का BroadNet का प्रकाशित तरीक़ा: कैटेगरी, leak बनाम miss, 3+ रन।"
url: https://broadrouter.com/hi/blog/llm-sensitive-data-safety-evaluation-method/
lang: hi
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

यह पेज अंग्रेज़ी से AI की मदद से अनुवाद किया गया है। [अंग्रेज़ी मूल पढ़ें](https://broadrouter.com/blog/llm-sensitive-data-safety-evaluation-method/) (2026-11-15 को अपडेट किया गया).

# संवेदनशील डेटा की सुरक्षा के लिए LLM को कैसे परखें: BroadNet का तरीक़ा

BroadNet Inference टीम · 3 मिनट में पढ़ें · प्रकाशित 2026-11-15

BroadNet का अप्रैल 2026 का preprint (DOI 10.5281/zenodo.19574049, SSRN पर भी) डिप्लॉयमेंट से पहले संवेदनशील डेटा की सुरक्षा का टेस्ट बताता है। चार कैटेगरी (credentials, PII, हेल्थ और वित्तीय डेटा) अलग-अलग परखें, leak और miss को अलग विफलताएँ गिनें, binary स्कोरिंग रखें, और हर टेस्ट कम से कम तीन बार चलाएँ। उसके टेस्ट में prompt नियमों और negative उदाहरणों पर fine-tuning ने लीक बढ़ाए।

## मुख्य बातें

-   Zenodo पर preprint, DOI 10.5281/zenodo.19574049 (14 अप्रैल 2026, CC BY 4.0), SSRN पर 10.2139/ssrn.6565139 के रूप में भी। peer-review नहीं हुआ।
-   क्षमता वाले बेंचमार्क नापते हैं कि मॉडल क्या कर सकता है; यह तरीक़ा नापता है कि उसे क्या नहीं करना चाहिए।
-   विफलता के दो रूप: leak (संवेदनशील वैल्यू दोहराना) और miss (उसे फ़्लैग न करना)। दोनों का स्कोर अलग रखें।
-   सुरक्षा non-deterministic है: हर फ़ैसला 3 या ज़्यादा रन पर टिकाएँ, कभी एक पास पर नहीं।
-   BroadNet के टेस्ट में आक्रामक prompt निर्देशों और negative उदाहरणों पर fine-tuning ने leak दर बढ़ाई।

**इस पेज पर**

1.  आम बेंचमार्क इसे क्यों नहीं पकड़ते?
2.  यह तरीक़ा क्या परखता है?
3.  नतीजों का स्कोर कैसे करें?
4.  क्या काम नहीं आया?
5.  पेपर क्या प्रकाशित नहीं करता?
6.  इसका BroadNet Inference से क्या संबंध है?

_[image: Cards reading Name and Email turning into the placeholders [PERSON] and [EMAIL], with the text "Redact. Process. Restore." and "LSDF by BroadNet".]_

BroadNet की रिसर्च शाखा ने यह परखने का एक व्यावहारिक तरीक़ा प्रकाशित किया है कि कोई बड़ा भाषा मॉडल डिप्लॉय करने से पहले संवेदनशील डेटा लीक करता है या नहीं। preprint, _How to Evaluate an LLM for Sensitive Data Safety Before Deploying It_, Zenodo पर DOI [10.5281/zenodo.19574049](https://doi.org/10.5281/zenodo.19574049) के तहत है, 14 अप्रैल 2026 की तारीख़ के साथ, और SSRN पर भी उपलब्ध है। इसका Zenodo रिकॉर्ड Mohammad Al Zubaidi को लेखक बताता है।

यह पेज तरीक़े और उसके नतीजों का सारांश है। यह BroadNet का काम है, और नतीजे उसके अपने हैं; हमने उन्हें दोबारा नहीं चलाया।

## आम बेंचमार्क इसे क्यों नहीं पकड़ते?

पब्लिक बेंचमार्क क्षमता नापते हैं: मॉडल अपने सबसे अच्छे रूप में क्या कर सकता है। लेकिन जो मॉडल किसी कॉन्फ़िगरेशन फ़ाइल या क्लिनिकल नोट का ऑडिट करने के लिए डिप्लॉय हुआ है, उसे कुछ न करना भी आना चाहिए: जो secret उसे मिला, उसे दोहराना नहीं। पेपर का उदाहरण बात साफ़ करता है। जो मॉडल 99 टास्क पर 95 स्कोर करे और सौवें पर API key दोहरा दे, उसका औसत 94 है, फिर भी वह प्रोडक्शन में इस्तेमाल के लायक़ नहीं।

BroadNet इसे ऊपरी सीमा की जगह निचली सीमा का टेस्ट कहता है, और पेपर “capability and constraint” (अनुवाद: क्षमता और पाबंदी) को स्वतंत्र धुरियाँ मानता है।

## यह तरीक़ा क्या परखता है?

चार कैटेगरी, हर एक को अलग से:

| कैटेगरी | उदाहरण | मॉडल इसे कैसे पहचानता है |
| --- | --- | --- |
| Credentials | API keys, टोकन, SSH keys, डेटाबेस पासवर्ड | ज़्यादातर फ़ॉर्मैट से; connection string के पासवर्ड का कोई फ़ॉर्मैट संकेत नहीं होता |
| व्यक्तिगत पहचान योग्य जानकारी (PII) | नाम, ईमेल, फ़ोन नंबर, सरकारी ID | संरचित ID के लिए फ़ॉर्मैट, खुले टेक्स्ट के लिए अर्थ |
| संरक्षित स्वास्थ्य जानकारी (PHI) | डायग्नोसिस, प्रिस्क्रिप्शन, क्लिनिकल नोट | अक्सर संदर्भ से: नाम के बगल में डायग्नोसिस |
| वित्तीय डेटा | अकाउंट नंबर, बैलेंस, लेन-देन | फ़ॉर्मैट से, लेकिन इसे कम बार संवेदनशील माना जाता है |

abstract “24+ models across 6 model families” (अनुवाद: 6 मॉडल फ़ैमिली के 24+ मॉडल) को परखने की बात बताता है और एक साफ़ क्रम पाता है: फ़ॉर्मैट पर आधारित पहचान, जैसे संरचित credentials और Social Security नंबर, संदर्भ पर आधारित पहचान से कहीं ज़्यादा भरोसेमंद है, जैसे ऐसे नाम जो डायग्नोसिस के बगल में आकर संवेदनशील बन जाते हैं। 0% credential leak दर वाले एक मॉडल ने हर PHI टेस्ट रन में मरीज़ों की पहचान लीक की।

## नतीजों का स्कोर कैसे करें?

पेपर एक न्यूनतम प्रोटोकॉल सुझाता है:

1.  **Binary स्कोरिंग।** हर रन या तो सुरक्षित है या नहीं; “ज़्यादातर सुरक्षित” जवाब के लिए कोई आंशिक अंक नहीं।
2.  **leak और miss का अलग स्कोर।** दोनों को एक नंबर में मिलाने से वह छिप जाता है जो आपके use case के लिए मायने रखता है।
3.  **कई रन।** हर मॉडल और probe के लिए तीन या ज़्यादा, क्योंकि वही मॉडल एक दिन पास हो सकता है और अगले दिन लीक कर सकता है।
4.  **कैटेगरी-दर-कैटेगरी।** credentials पर सुरक्षा हेल्थ रिकॉर्ड पर सुरक्षा के बारे में कुछ नहीं बताती।

BroadNet का practitioner ब्योरा वे काम के नियम जोड़ता है जो वह पायलट में इस्तेमाल करता है: सिर्फ़ synthetic डेटा इस्तेमाल करें, पूरी डिप्लॉयमेंट कॉन्फ़िगरेशन परखें (system prompt, टूल और retrieval समेत), प्रोडक्शन से पहले लगातार पाँच साफ़ रन माँगें, और self-hosted मॉडल को हर महीने और अक्सर अपडेट होने वाले third-party मॉडल को हर हफ़्ते फिर से परखें।

## क्या काम नहीं आया?

दो आम उपायों ने BroadNet के टेस्ट में हालत बिगाड़ी:

-   **prompt निर्देश।** “do not reveal credentials” जोड़ना कभी-कभी नज़रअंदाज़ हुआ, और सबसे ज़ोरदार prompting रणनीति ने एक ऐसे मॉडल में लीक करवाए जो baseline पर साफ़ था।
-   **negative उदाहरणों पर fine-tuning।** किसी कैटेगरी को मना करने के लिए मॉडल को ट्रेन करने से leak दर घटने की जगह बढ़ी।

BroadNet के अनुसार, जो टिका वह तीन परतें साथ में थीं: उस कैटेगरी के लिए कम जोखिम वाला मॉडल चुनें, आउटपुट को एक deterministic टूल से फ़िल्टर करें (वह [Microsoft Presidio](https://github.com/microsoft/presidio) और LLM Guard का नाम लेता है), और जब टास्क को वैल्यू की ज़रूरत न हो, तो prompt बनने से पहले इनपुट redact करें। हमारी [LLM API को संवेदनशील डेटा भेजने की गाइड](https://broadrouter.com/hi/blog/llm-api-sensitive-data/) redaction का क़दम कोड में दिखाती है।

## पेपर क्या प्रकाशित नहीं करता?

अपनी ज़िम्मेदार प्रकाशन नीति के तहत BroadNet कैटेगरी, स्कोरिंग का दर्शन, सैंपल साइज़ और सावधानियाँ प्रकाशित करता है, लेकिन सटीक prompt टेम्पलेट, credential फ़ॉर्मैट या pass और fail के threshold नहीं। उसकी वजह: इन्हें प्रकाशित करने से डेटा निकालने की मेहनत कम हो जाएगी, जबकि डिप्लॉय करने वालों के पास कोई बचाव नहीं होगा। मॉडल प्रोवाइडर और सुरक्षा रिसर्चर इन्हें माँग सकते हैं। इससे तरीक़ा अपने ढाँचे में दोहराया जा सकता है, लेकिन नंबर-दर-नंबर नहीं।

## इसका BroadNet Inference से क्या संबंध है?

यह मॉडल का टेस्ट है, प्रोवाइडर का नहीं। यह किसी भी API पर किसी भी मॉडल पर लागू होता है, [BroadNet Inference](https://broadrouter.com/hi/models/) वाले मॉडल समेत। साथी पेपर, [Safety Map](https://broadrouter.com/hi/blog/llm-safety-map-39-models/), इसे 14 लैब के 39 मॉडल पर लागू करता है और पाता है कि संवेदनशील वैल्यू tool-call arguments और रीज़निंग फ़ील्ड से भी बाहर जा सकती हैं। BroadNet ने बाद में दोनों पेपर पर बना एक ओपन-सोर्स फ़ायरवॉल, LSDF, जारी किया, जिसका वर्णन Safety Map के सारांश में है।

प्रोवाइडर का डेटा रखना एक अलग सवाल है: [zero data retention](https://broadrouter.com/hi/privacy/) बताता है कि BroadNet क्या स्टोर करता है, यह नहीं कि मॉडल आपके अपने सिस्टम में क्या लिखता है।

इस विषय के मुफ़्त टूल (अंग्रेज़ी में)

-   [OpenAI-compatible API request builder](https://broadrouter.com/tools/api-request-builder/) One request, copied as curl, Python, Node or the OpenAI SDKs.
-   [LLM API cost calculator](https://broadrouter.com/tools/llm-api-cost-calculator/) Price a workload on every model at once, with cache hits, reasoning and a flat-plan check.

[मुफ़्त टूल (अंग्रेज़ी में)](https://broadrouter.com/tools/)

## इस लेख के शब्द

[ज़ीरो डेटा रिटेंशन (zero data retention, ZDR)](https://broadrouter.com/hi/glossary/zero-data-retention/)

ज़ीरो डेटा रिटेंशन (ZDR) डेटा सँभालने की एक पॉलिसी है, जिसमें AI प्रोवाइडर प्रॉम्प्ट और आउटपुट सिर्फ़ अनुरोध पूरा करने के लिए प्रोसेस करता है और बाद में वह सामग्री लॉग, कैश या ट्रेनिंग डेटा में स्टोर नहीं करता। टोकन गिनती और समय जैसे बिना सामग्री वाले रिकॉर्ड आम तौर पर फिर भी रखे जाते हैं।

[फ़ाइन-ट्यूनिंग (fine-tuning)](https://broadrouter.com/hi/glossary/fine-tuning/)

फ़ाइन-ट्यूनिंग पहले से ट्रेन हुए लैंग्वेज मॉडल को किसी छोटे, काम-विशेष डेटासेट, जैसे उदाहरण वाली बातचीत, पर आगे ट्रेन करने की प्रक्रिया है, ताकि उसके वेट बदलें और वह हर प्रॉम्प्ट में लंबे निर्देश या उदाहरण दिए बिना वह काम या स्टाइल ज़्यादा भरोसे से करे।

[सिस्टम प्रॉम्प्ट (system prompt)](https://broadrouter.com/hi/glossary/system-prompt/)

सिस्टम प्रॉम्प्ट वह निर्देश टेक्स्ट है जो कोई ऐप्लिकेशन बातचीत से पहले लैंग्वेज मॉडल को भेजता है, आम तौर पर system या developer रोल वाले मैसेज के रूप में। यह मॉडल की भूमिका, नियम, लहजा और आउटपुट फ़ॉर्मैट तय करता है, और टकराव होने पर मॉडल को यूज़र के मैसेज के बजाय इसी का पालन करना होता है।

[API key](https://broadrouter.com/hi/glossary/api-key/)

API key एक गुप्त स्ट्रिंग है जो API कॉल करने वाले क्लाइंट को पहचानती और अधिकृत करती है। LLM API आम तौर पर इसे Authorization: Bearer हेडर में चाहते हैं, और जिसके पास भी यह key हो, वह ऐसे अनुरोध कर सकता है जिनका बिल key वाले अकाउंट पर बनता है।

[टोकन (token)](https://broadrouter.com/hi/glossary/token/)

टोकन टेक्स्ट की वह इकाई है जिसे लैंग्वेज मॉडल पढ़ता और लिखता है: कोई शब्द, शब्द का हिस्सा, विराम चिह्न या बाइट का क्रम, जो मॉडल का टोकनाइज़र बनाता है। LLM API इस्तेमाल को टोकन में गिनते हैं, उसी में लिमिट लगाते हैं और आम तौर पर बिल भी बनाते हैं।

[PII (personally identifiable information)](https://broadrouter.com/hi/glossary/pii/)

PII (personally identifiable information) वह जानकारी है जिससे किसी व्यक्ति की पहचान अलग की या खोजी जा सके, जैसे नाम, ID नंबर या बायोमेट्रिक रिकॉर्ड, साथ ही उस व्यक्ति से जुड़ी या जोड़ी जा सकने वाली दूसरी जानकारी। GDPR का व्यापक शब्द personal data है। LLM में PII redaction इसे सिस्टम से निकलने से पहले प्रॉम्प्ट से हटाता है।

## अक्सर पूछे जाने वाले सवाल

### leak और miss में क्या फ़र्क़ है?

leak का मतलब है कि मॉडल किसी संवेदनशील वैल्यू को वहाँ दोहराए जहाँ नहीं दोहराना चाहिए, जैसे रिपोर्ट में API key लिख देना। miss का मतलब है कि जब फ़्लैग करना ही उसका काम हो, तब वह संवेदनशील वैल्यू को फ़्लैग न करे। BroadNet का तरीक़ा इन्हें अलग स्कोर करता है, क्योंकि इनके जोखिम अलग हैं।

### टेस्ट के लिए कितने रन चाहिए?

हर probe के लिए कम से कम तीन। BroadNet का practitioner प्रोटोकॉल किसी मॉडल को प्रोडक्शन के लिए सुरक्षित कहने से पहले लगातार पाँच साफ़ रन जोड़ता है, कम से कम दो कैलेंडर दिनों में फैले हुए, ताकि प्रोवाइडर की तरफ़ के बदलाव पकड़ में आएँ।

### क्या "never reveal secrets" कहने वाला system prompt मदद करता है?

भरोसे लायक़ तरीक़े से नहीं। BroadNet के टेस्ट में सबसे ज़ोरदार prompting रणनीति ने एक ऐसे मॉडल में लीक करवाए जो उसके बिना साफ़ था, और negative उदाहरणों पर fine-tuning ने भी leak दर बढ़ाई।

### क्या मुझे BroadNet के सटीक टेस्ट prompt मिल सकते हैं?

सार्वजनिक रूप से नहीं। अपनी ज़िम्मेदार प्रकाशन नीति के तहत BroadNet सटीक prompt टेम्पलेट, credential फ़ॉर्मैट और pass या fail के threshold रोक कर रखता है, और अनुरोध पर मॉडल प्रोवाइडरों और सुरक्षा रिसर्चरों से शेयर करता है।

### क्या zero data retention से यह टेस्ट ग़ैरज़रूरी हो जाता है?

नहीं। zero data retention तय करता है कि प्रोवाइडर क्या स्टोर करता है। यह टेस्ट इस बारे में है कि मॉडल अपने आउटपुट में क्या लिखता है, जो फिर आपके लॉग, टिकट और आगे के सिस्टम में पहुँचता है।

## आगे पढ़ें

-   [Safety Map: 39 LLM संवेदनशील डेटा को कैसे संभालते हैं](https://broadrouter.com/hi/blog/llm-safety-map-39-models/)
-   [LLM API को संवेदनशील डेटा भेजना: redact करें, कम भेजें, कम लॉग करें](https://broadrouter.com/hi/blog/llm-api-sensitive-data/)
-   [प्रोवाइडर बदलने से पहले LLM का मूल्यांकन कैसे करें](https://broadrouter.com/hi/blog/evaluate-llm-before-switching/)
-   [ज़ीरो डेटा रिटेंशन वाला LLM API: 10 सवालों की चेकलिस्ट](https://broadrouter.com/hi/blog/zero-data-retention-llm-api-checklist/)
-   [मिस्र का डेटा सुरक्षा क़ानून (Law 151 of 2020) और LLM API](https://broadrouter.com/hi/blog/egypt-data-protection-law-llm-api/)
-   [सऊदी और UAE PDPL और LLM API: cross-border डेटा ट्रांसफ़र चेकलिस्ट](https://broadrouter.com/hi/blog/saudi-uae-pdpl-llm-api-checklist/)

इसे अपने असली वर्कलोड पर आज़माएँ। नए अकाउंट Gemma और ट्रांसक्रिप्शन के लिए US$5 के क्रेडिट से शुरू होते हैं। DeepSeek, GLM, और Qwen3.8 के लिए टॉप-अप ज़रूरी है।

[शुरू करें](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=hi-blog-llm-sensitive-data-safety-evaluation-method&utm_content=page-cta) ·

**स्रोत**

-   [Al Zubaidi, How to Evaluate an LLM for Sensitive Data Safety Before Deploying It, Zenodo preprint, 2026-04-14 (रिकॉर्ड 2026-11-15 को देखा गया)](https://doi.org/10.5281/zenodo.19574049)
-   [वही पेपर SSRN पर, abstract 6565139 (DOI BroadNet ने लिस्ट किया; 2026-11-15 को देखा गया)](https://doi.org/10.2139/ssrn.6565139)
-   [BroadNet ब्लॉग, How We Evaluate an LLM for Sensitive-Data Safety Before Deploying It (12 मई 2026; 2026-11-15 को देखा गया) (अंग्रेज़ी में)](https://www.broadnet.ai/blog/evaluating-llm-sensitive-data-safety)
-   [BroadNet Research: ज़िम्मेदार प्रकाशन नीति (2026-11-15 को देखा गया) (अंग्रेज़ी में)](https://www.broadnet.ai/research)
-   [Microsoft Presidio (2026-11-15 को देखा गया)](https://github.com/microsoft/presidio)
