OpenAI는 8월 19일 frontier 모델에서도 기업 고객의 Zero Data Retention(ZDR)을 유지하기 위한 Private Safety Processing을 공개했습니다. ZDR 대상 API 고객의 prompt와 model response는 요청 처리 후 OpenAI에 보관되지 않으며, OpenAI 직원이 해당 고객 콘텐츠를 열람할 수 없고 기업 데이터도 명시적 opt-in 없이는 학습에 사용되지 않습니다. openai.com
문제는 에이전트 작업이 길어지면서 한 번의 요청만 검사해서는 위험을 발견하기 어려워진다는 것입니다. 그래서 Private Safety Processing은 여러 상호작용에서 발생하는 행동 패턴을 자동으로 분석하되, 원본 prompt나 response를 OpenAI 직원에게 노출하지 않고 제한된 safety signal만 전달하는 방식으로 설계됐습니다. openai.com
ZDR 환경에서는 데이터가 고객이 통제하는 인프라에 남으며, OpenAI 저장소를 선택할 경우에도 고객이 통제하는 암호화 키를 사용하는 구조를 개발하고 있습니다. OpenAI는 현재 초기 고객과 시험 중이며 9월부터 도입을 시작하고 기술 백서를 공개할 계획입니다. openai.com
법적 신고 의무가 있는 CSAM 의심 이미지는 ZDR에서도 수동 검토·신고를 위해 보관될 수 있다는 예외도 명시되어 있습니다. openai.com
산업 영향
기업용 AI에서 이제 중요한 경쟁 지표가:
모델 성능
뿐 아니라
Privacy × Safety × Agent capability
가 되고 있습니다.
강력한 모델일수록 여러 단계의 행동을 감시해야 하지만, 동시에 기업 고객은 민감한 데이터를 모델 업체에 넘기고 싶어 하지 않습니다. Private Safety Processing은 이 충돌을 기술적으로 해결하려는 시도입니다. openai.com
실무 시사점
민감 데이터가 있는 AI 서비스를 설계한다면 데이터 저장과 안전 모니터링을 같은 시스템으로 묶지 않는 구조가 유리합니다.
Customer Data → Customer-controlled storage
Agent activity → privacy-preserving safety signal
처럼 분리하는 방향입니다. openai.com