PII an toàn nhất là PII bạn không bao giờ gửi đi. Phần lớn prompt có chứa PII thực ra không cần đến nó.
Cách hoạt động
NIST SP 800-122 (tháng 4 năm 2010) dùng một định nghĩa rộng: PII là “any information about an individual maintained by an agency, including (1) any information that can be used to distinguish or trace an individual’s identity, such as name, social security number, date and place of birth, mother’s maiden name, or biometric records; and (2) any other information that is linked or linkable to an individual, such as medical, educational, financial, and employment information.” (Bản dịch: mọi thông tin về một cá nhân do một cơ quan lưu giữ, bao gồm (1) mọi thông tin có thể dùng để phân biệt hoặc truy ra danh tính một cá nhân, như tên, số an sinh xã hội, ngày và nơi sinh, họ thời con gái của mẹ, hoặc dữ liệu sinh trắc; và (2) mọi thông tin khác gắn hoặc có thể gắn với một cá nhân, như thông tin y tế, giáo dục, tài chính và việc làm.)
Thuật ngữ của GDPR là dữ liệu cá nhân: “any information relating to an identified or identifiable natural person” (Bản dịch: mọi thông tin liên quan tới một thể nhân đã được hoặc có thể được nhận diện), bao gồm “a name, an identification number, location data, an online identifier” (Bản dịch: tên, số định danh, dữ liệu vị trí, mã định danh trực tuyến). PDPL của Ả Rập Xê Út định nghĩa dữ liệu cá nhân theo cách tương tự.
Công cụ che dữ liệu thường làm việc theo hai bước. Analyzer của Microsoft Presidio đảm nhận “PII identification in text” (Bản dịch: nhận diện PII trong văn bản), dùng pattern và nhận dạng thực thể có tên. Sau đó anonymizer áp dụng một operator cho mỗi kết quả khớp:
| Operator | Mô tả của Presidio |
|---|---|
| replace | “Replace the PII with desired value” (Bản dịch: thay PII bằng giá trị mong muốn) |
| redact | “Remove the PII completely from text” (Bản dịch: xóa hoàn toàn PII khỏi văn bản) |
| mask | “Replace the PII with a given character” (Bản dịch: thay PII bằng một ký tự cho trước) |
| hash | “Hashes the PII text using salted hashing for security” (Bản dịch: băm văn bản PII bằng salted hashing để bảo mật) |
| encrypt | “Encrypt the PII using a given key” (Bản dịch: mã hóa PII bằng một key cho trước) |
Một mẫu placeholder cho ticket hỗ trợ:
Before: Ahmed Al-Harbi (+966 5x xxx xxxx) says order 4471 never arrived.
After: <PERSON_1> (<PHONE_1>) says order 4471 never arrived.
Bạn giữ bảng ánh xạ ở phía mình và đưa giá trị thật trở lại câu trả lời của model.
Vì sao quan trọng
- Mỗi bản sao là một rủi ro. NIST khuyên các tổ chức “minimize the use, collection, and retention of PII to what is strictly necessary” (Bản dịch: giảm thiểu việc sử dụng, thu thập và lưu giữ PII ở mức thực sự cần thiết). Prompt và log đều là bản sao.
- Việc phát hiện có thể bỏ sót. Presidio nói “there is no guarantee that Presidio will find all sensitive information” (Bản dịch: không có gì bảo đảm Presidio sẽ tìm ra mọi thông tin nhạy cảm). Tên tiếng Ả Rập, định dạng số điện thoại vùng Vịnh và văn bản trộn nhiều hệ chữ là những chỗ bộ phát hiện chung thường bỏ sót; hãy kiểm thử trên dữ liệu của chính bạn.
- Đầu ra cũng có thể rò rỉ. Hãy chạy cùng các bước kiểm tra trên phản hồi. Guardrails có thể chặn hoặc gắn cờ chúng.
Gửi dữ liệu nhạy cảm tới API LLM trình bày chi tiết việc che dữ liệu, placeholder và ghi log, còn ghi log sử dụng với PII đã được che nói về log của chính bạn.
Trên BroadNet Inference
Tuyên bố quyền riêng tư của BroadNet cho biết họ không lưu giữ prompt, audio, hình ảnh, câu trả lời hay bản chép lời, và không dùng dữ liệu inference để huấn luyện, fine-tune hay đánh giá model. Điều đó giới hạn những gì được lưu sau request. Nhưng BroadNet không che PII giúp bạn: PII vẫn đến model trong lúc xử lý, nên hãy tối thiểu hóa trước. Xem không lưu giữ dữ liệu.
BroadNet cũng công bố một proxy che dữ liệu mã nguồn mở, LLM Sensitive Data Firewall (LSDF), theo giấy phép Apache-2.0; bài viết về dữ liệu nhạy cảm mô tả nó cùng các số liệu đánh giá của chính BroadNet. Trang này không phải tư vấn pháp lý.