Los agentes de programación envían repositorios completos. Los bots de soporte envían mensajes de clientes. ZDR responde la pregunta que sigue: ¿qué pasa con ese contenido después de que vuelve la respuesta?
Cómo funciona
Con ZDR, el proveedor mantiene el contenido de los prompts y las salidas solo en memoria mientras atiende la solicitud. Después, no se escribe en:
- logs de solicitudes o de depuración;
- almacenes de monitoreo de abuso;
- cachés o colas persistentes;
- conjuntos de datos de entrenamiento o evaluación.
Los registros que normalmente sí se conservan, sin contenido, incluyen IDs de solicitud, marcas de tiempo, códigos de estado, modelo, conteos de tokens, costo y direcciones IP de los clientes.
ZDR no es lo predeterminado en todas partes. La API de OpenAI, por ejemplo, conserva logs de monitoreo de abuso hasta 30 días de forma predeterminada y ofrece ZDR a clientes aprobados. También indica que los datos de la API no se usan para entrenar salvo que usted lo autorice. Lea los términos de cada proveedor en lugar de suponer.
Por qué importa
- Cumplimiento. Los prompts suelen contener datos personales, información de salud o secretos comerciales. El contenido que nunca se guarda no puede filtrarse desde logs o copias de seguridad.
- Menos partes. Cada sistema que guarda una copia es un lugar más que proteger. Un router o un revendedor agrega partes al recorrido de los datos.
- Voz e imágenes. Las notas de voz y los documentos escaneados están entre las entradas más sensibles. ZDR también debería cubrir el audio y las transcripciones.
ZDR protege lo que pasa después de que llega su solicitud. Aun así, debe proteger sus claves de API, restringirlas a IP conocidas y eliminar lo que el modelo no necesita.
En BroadNet Inference
La documentación de BroadNet dice que ZDR está “built into how we serve requests, not only stated in policy” (traducción: integrada en la forma en que atendemos las solicitudes, no solo declarada en una política). BroadNet Inference no conserva prompts, imágenes, audio, respuestas ni transcripciones de ninguna solicitud. Guarda registros de tráfico y uso sin contenido, como tiempos, conteos de tokens y costo, durante el tiempo que exijan las obligaciones de facturación, impuestos, seguridad y legales. Una auditoría automática de retención se ejecuta cada hora.
Según la declaración de privacidad de BroadNet, los modelos que aloja se ejecutan en hardware propio o arrendado por BroadNet en Estados Unidos, con capacidad de socios como respaldo; los modelos servidos por socios se ejecutan bajo términos de retención cero de datos con socios de inferencia en Estados Unidos. Las claves pueden restringirse a sus servidores con una lista de IP permitidas.
La lista completa de lo que se guarda y lo que no está en la página de retención cero de datos. Para comparar proveedores, use la lista de verificación de ZDR en 10 preguntas.