BroadRouter
Начать

Нулевое хранение данных (ZDR)

Обновлено

Нулевое хранение данных (ZDR) — это политика обработки данных, при которой AI-провайдер обрабатывает промпты и ответы только для выполнения запроса и после этого не сохраняет их содержимое ни в логах, ни в кэшах, ни в обучающих данных. Записи без содержимого, например число токенов и время выполнения, обычно всё же хранятся.

Также называют: ZDR, нулевое хранение, без хранения данных, LLM API без логов, приватный LLM API, zero data retention, no data retention, no-log LLM API, private LLM API

Агенты для программирования отправляют целые репозитории. Боты поддержки отправляют сообщения клиентов. ZDR отвечает на следующий вопрос: что происходит с этим содержимым, когда ответ уже получен?

Как это работает

При ZDR провайдер держит содержимое промптов и ответов только в памяти, пока обрабатывает запрос. После этого оно не записывается:

  • в логи запросов и отладочные логи;
  • в хранилища для мониторинга злоупотреблений;
  • в постоянные кэши или очереди;
  • в датасеты для обучения или оценки.

Обычно всё же хранятся записи без содержимого: ID запросов, временные метки, коды статусов, модель, число токенов, стоимость и IP-адреса клиентов.

ZDR действует по умолчанию не везде. API OpenAI, например, по умолчанию хранит логи мониторинга злоупотреблений до 30 дней и предлагает ZDR одобренным клиентам. Там же сказано, что данные API не используются для обучения, если вы сами на это не согласились. Читайте условия каждого провайдера, а не полагайтесь на догадки.

Почему это важно

  • Соответствие требованиям. В промптах часто бывают персональные данные, сведения о здоровье или коммерческая тайна. Содержимое, которое никогда не сохранялось, не может утечь из логов или резервных копий.
  • Меньше участников. Каждая система, где лежит копия, — ещё одно место, которое нужно защищать. Роутер или реселлер добавляет участников в путь данных.
  • Речь и изображения. Голосовые сообщения и сканы документов — одни из самых чувствительных входных данных. ZDR должна распространяться и на аудио, и на расшифровки.

ZDR защищает то, что происходит после того, как запрос дошёл до провайдера. Вам всё равно нужно защищать API-ключи, привязывать их к известным IP и вычищать то, что модели не нужно.

В BroadNet Inference

В документации BroadNet сказано, что ZDR “built into how we serve requests, not only stated in policy” (перевод: «встроена в то, как мы обрабатываем запросы, а не только заявлена в политике»). BroadNet Inference не хранит промпты, изображения, аудио, ответы и расшифровки ни для одного запроса. Она хранит записи о трафике и использовании без содержимого — время выполнения, число токенов, стоимость — столько, сколько требуют биллинг, налоги, безопасность и юридические обязательства. Автоматический аудит хранения выполняется каждый час.

Согласно заявлению BroadNet о конфиденциальности, модели, которые она размещает, работают на собственном или арендованном оборудовании BroadNet в США, с мощностями партнёров в качестве резерва; модели, которые обслуживают партнёры, работают на условиях нулевого хранения данных у партнёров по инференсу в США. Ключи можно привязать к вашим серверам через белый список IP.

Полный список того, что хранится и что не хранится, — на странице о нулевом хранении данных. Чтобы сравнить провайдеров, используйте чек-лист ZDR из 10 вопросов.

Вопросы и ответы

Нулевое хранение данных означает полное отсутствие логов?

Нет. Провайдеры хранят служебные записи — время выполнения, число токенов, стоимость, коды статусов и IP-адреса — для биллинга и безопасности. При ZDR в этих записях нет содержимого промптов и ответов.

ZDR — это то же самое, что «не обучаем на ваших данных»?

Нет. Отказ от обучения — более узкое обещание. Провайдер может не обучать модели на ваших данных и при этом неделями хранить промпты в логах. ZDR означает, что содержимое не хранится вовсе.

Действует ли ZDR при работе через роутер?

Только если её соблюдают все участники цепочки. С хостинговым роутером проверьте правила хранения и у роутера, и у провайдера, которому он отправляет ваш запрос.

Открыть в MarkdownСпросить ChatGPTСпросить ClaudeСпросить Perplexity