BroadRouter
Magsimula

Zero data retention (ZDR)

Na-update

Ang zero data retention (ZDR) ay patakaran kung saan pinoproseso lang ng AI provider ang mga prompt at output para i-serve ang isang request, at hindi na nito itinatago ang content na iyon pagkatapos, sa log, cache o training data. Kadalasang itinatago pa rin ang mga record na walang content, gaya ng bilang ng token at timing.

Tinatawag ding: ZDR, walang data retention, hindi itinatago ang data, no data retention, no-log LLM API, private LLM API, zero data retention

Buong repository ang ipinapadala ng mga coding agent. Mensahe ng mga customer ang ipinapadala ng mga support bot. Sinasagot ng ZDR ang kasunod na tanong: ano ang nangyayari sa content na iyon pagkabalik ng sagot?

Paano ito gumagana

Sa ZDR, sa memory lang hinahawakan ng provider ang content ng prompt at output habang sine-serve ang request. Pagkatapos, hindi ito isinusulat sa:

  • mga request log o debug log;
  • mga abuse-monitoring store;
  • mga persistent na cache o queue;
  • mga training o evaluation dataset.

Kabilang sa mga record na karaniwang itinatago pa rin, nang walang content, ang mga request ID, timestamp, status code, model, bilang ng token, gastos at mga IP address ng client.

Hindi default ang ZDR sa lahat ng provider. Halimbawa, nagtatago ang API ng OpenAI ng mga abuse-monitoring log nang hanggang 30 araw bilang default, at nag-aalok ito ng ZDR sa mga aprubadong customer. Sinasabi rin nitong hindi ginagamit sa training ang API data maliban kung mag-opt in ka. Basahin ang terms ng bawat provider sa halip na mag-akala.

Bakit ito mahalaga

  • Compliance. Madalas may dalang personal data, detalye ng kalusugan o trade secret ang mga prompt. Hindi maaaring ma-leak mula sa log o backup ang content na hindi kailanman itinago.
  • Mas kaunting partido. Ang bawat system na nagtatago ng kopya ay isa pang lugar na kailangang i-secure. Nagdadagdag ng mga partido sa daanan ng data ang isang router o reseller.
  • Pananalita at mga larawan. Kabilang ang mga voice note at na-scan na dokumento sa pinakasensitibong input. Dapat sakop din ng ZDR ang audio at mga transcript.

Pinoprotektahan ng ZDR ang nangyayari pagdating ng request mo. Kailangan mo pa ring protektahan ang mga API key mo, i-lock ang mga ito sa mga kilalang IP, at tanggalin ang hindi kailangan ng model.

Sa BroadNet Inference

Ayon sa docs ng BroadNet, ang ZDR ay “built into how we serve requests, not only stated in policy.” (Salin ng BroadRouter: “nakapaloob sa paraan ng pag-serve namin ng mga request, hindi lang nakasaad sa patakaran.”) Hindi nagtatago ang BroadNet Inference ng mga prompt, larawan, audio, sagot o transcript sa anumang request. Nagtatago ito ng mga record ng traffic at usage na walang content, gaya ng timing, bilang ng token at gastos, hangga’t kinakailangan ng billing, tax, security at mga legal na obligasyon. May automated na retention audit na tumatakbo bawat oras.

Ayon sa privacy statement ng BroadNet, tumatakbo ang mga model na hino-host nito sa hardware na pag-aari o inuupahan ng BroadNet sa United States, na may capacity ng partner bilang backup; tumatakbo naman ang mga model na sine-serve ng partner sa ilalim ng zero-data-retention terms kasama ang mga inference partner sa US. Puwedeng i-lock ang mga key sa mga server mo gamit ang IP allow list.

Nasa zero data retention page ang buong listahan ng itinatago at hindi itinatago. Para ikumpara ang mga provider, gamitin ang 10-tanong na ZDR checklist.

Mga tanong

Ibig bang sabihin ng zero data retention na walang log talaga?

Hindi. Nagtatago ang mga provider ng mga operational record gaya ng timing, bilang ng token, gastos, status code at IP address para sa billing at security. Sa ZDR, walang laman na prompt o output ang mga record na iyon.

Pareho ba ang ZDR at ang hindi pag-train sa data ko?

Hindi. Mas makitid na pangako ang hindi pag-train. Puwedeng hindi mag-train ang provider sa data mo pero itago pa rin ang mga prompt sa log nang ilang linggo. Ang ibig sabihin ng ZDR ay hindi talaga itinatago ang content.

Umiiral ba ang ZDR kapag dumadaan sa router?

Kung susundin lang ito ng bawat partido sa daanan. Kapag hosted router, suriin ang retention ng router at ng provider na pinagpapadalhan nito ng request mo.

Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity