コーディングエージェントはリポジトリ全体を送ります。サポートボットは顧客のメッセージを送ります。そこで生まれる疑問、つまり回答が返ってきた後にその内容がどうなるのかに答えるのが ZDR です。
仕組み
ZDR のもとでは、プロバイダーはプロンプトと出力の内容を、リクエストを処理している間だけメモリ上に保持します。処理が終わった後、内容は次の場所に書き込まれません。
- リクエストログやデバッグログ
- 不正利用の監視用ストア
- 永続的なキャッシュやキュー
- 学習用や評価用のデータセット
内容を含まない記録は通常どおり残ります。リクエスト ID、タイムスタンプ、ステータスコード、モデル、トークン数、費用、クライアントの IP アドレスなどです。
ZDR はどこでも既定というわけではありません。たとえば OpenAI の API は、既定で不正利用の監視ログを最大 30 日間保存し、承認された顧客に ZDR を提供しています。また、オプトインしない限り API のデータは学習に使わないとしています。思い込まずに、プロバイダーごとの規約を読んでください。
なぜ重要か
- コンプライアンス。 プロンプトには個人データ、健康情報、営業秘密が含まれることがよくあります。一度も保存されない内容は、ログやバックアップから漏れることもありません。
- 関与する事業者が減る。 コピーを保持するシステムが増えるほど、守るべき場所も増えます。ルーターや再販業者は、データの経路に事業者を追加します。
- 音声と画像。 ボイスメッセージやスキャンした書類は、特に機密性の高い入力です。ZDR は音声と文字起こしにも適用されるべきです。
ZDR が守るのは、リクエストが届いた後の扱いです。API キーの保護、既知の IP への制限、モデルに不要な情報の削除は、引き続き自分で行う必要があります。
BroadNet Inference の場合
BroadNet のドキュメントによると、ZDR は “built into how we serve requests, not only stated in policy”(訳:方針として掲げているだけでなく、リクエストの処理方法に組み込まれている)とされています。BroadNet Inference は、どのリクエストでもプロンプト、画像、音声、回答、文字起こしを保持しません。処理時間、トークン数、費用など、内容を含まないトラフィックと利用状況の記録は、課金、税務、セキュリティ、法令上の義務に必要な期間だけ保存します。保持状況の自動監査が 1 時間ごとに実行されます。
BroadNet のプライバシー声明によると、同社がホストするモデルは BroadNet が所有またはリースする米国内のハードウェアで動き、パートナーのキャパシティを予備としています。パートナーが提供するモデルは、米国の推論パートナーとのゼロデータ保持の条件のもとで動きます。キーは IP 許可リストで自社のサーバーに限定できます。
保存されるもの、されないものの完全な一覧はゼロデータ保持のページにあります。プロバイダーを比較するには、ZDR を確認する 10 の質問を使ってください。