Les PII les plus sûres sont celles que vous n’envoyez jamais. La plupart des prompts qui en contiennent n’en ont pas besoin.
Comment ça marche
La publication NIST SP 800-122 (avril 2010) retient une définition large : les PII sont « any information about an individual maintained by an agency, including (1) any information that can be used to distinguish or trace an individual’s identity, such as name, social security number, date and place of birth, mother’s maiden name, or biometric records; and (2) any other information that is linked or linkable to an individual, such as medical, educational, financial, and employment information. » (traduction : « toute information sur une personne détenue par un organisme, y compris (1) toute information permettant de distinguer ou de retrouver l’identité d’une personne, comme le nom, le numéro de sécurité sociale, la date et le lieu de naissance, le nom de jeune fille de la mère ou des données biométriques ; et (2) toute autre information liée ou rattachable à une personne, comme des informations médicales, scolaires, financières et professionnelles. »)
Le RGPD parle de données personnelles : « any information relating to an identified or identifiable natural person » (traduction : « toute information se rapportant à une personne physique identifiée ou identifiable »), y compris « a name, an identification number, location data, an online identifier » (traduction : « un nom, un numéro d’identification, des données de localisation, un identifiant en ligne »). La PDPL saoudienne définit les données personnelles en des termes proches.
Les outils de masquage fonctionnent en général en deux étapes. L’analyzer de Microsoft Presidio assure la « PII identification in text » (traduction : « identification des PII dans un texte »), à l’aide de motifs et de reconnaissance d’entités nommées. Son anonymizer applique ensuite un opérateur à chaque correspondance :
| Opérateur | Description de Presidio |
|---|---|
| replace | « Replace the PII with desired value » (traduction : « remplacer la PII par la valeur voulue ») |
| redact | « Remove the PII completely from text » (traduction : « supprimer complètement la PII du texte ») |
| mask | « Replace the PII with a given character » (traduction : « remplacer la PII par un caractère donné ») |
| hash | « Hashes the PII text using salted hashing for security » (traduction : « hache le texte de la PII avec un hachage salé, par sécurité ») |
| encrypt | « Encrypt the PII using a given key » (traduction : « chiffrer la PII avec une clé donnée ») |
Un schéma d’espaces réservés pour un ticket de support :
Before: Ahmed Al-Harbi (+966 5x xxx xxxx) says order 4471 never arrived.
After: <PERSON_1> (<PHONE_1>) says order 4471 never arrived.
Vous gardez la correspondance de votre côté et réinsérez les vraies valeurs dans la réponse du modèle.
Pourquoi c’est important
- Chaque copie est un risque. Le NIST conseille aux organisations de « minimize the use, collection, and retention of PII to what is strictly necessary » (traduction : « limiter l’utilisation, la collecte et la conservation des PII au strict nécessaire »). Les prompts et les logs sont des copies.
- La détection laisse passer des choses. Presidio écrit : « there is no guarantee that Presidio will find all sensitive information » (traduction : « rien ne garantit que Presidio trouvera toutes les informations sensibles »). Les noms arabes, les formats de téléphone du Golfe et les textes mêlant plusieurs écritures sont des cas où les détecteurs génériques échouent souvent ; testez sur vos propres données.
- Les sorties peuvent aussi fuiter. Appliquez les mêmes contrôles aux réponses. Des guardrails peuvent les bloquer ou les signaler.
Envoyer des données sensibles à une API LLM détaille le masquage, les espaces réservés et la journalisation, et journaliser l’usage avec des PII masquées traite de vos propres logs.
Sur BroadNet Inference
La déclaration de confidentialité de BroadNet indique qu’il ne conserve pas les prompts, l’audio, les images, les réponses ni les transcriptions, et qu’il n’utilise pas les données d’inférence pour entraîner, affiner ou évaluer des modèles. Cela limite ce qui est stocké après la requête. Mais il ne masque rien pour vous : les PII atteignent quand même le modèle pendant le traitement, alors minimisez d’abord. Voir conservation zéro des données.
BroadNet publie aussi un proxy de masquage open source, le LLM Sensitive Data Firewall (LSDF), sous Apache-2.0 ; l’article sur les données sensibles le présente, avec les chiffres d’évaluation de BroadNet. Cette page n’est pas un conseil juridique.