OpenAI, ZDR용 비공개 안전 처리 공개

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

OpenAI는 API 고객의 프롬프트와 모델 응답을 요청 처리 후 보관하지 않는 ZDR 조건을 유지하면서, 여러 상호작용에 걸친 위험 패턴을 자동으로 찾는 비공개 안전 처리 미리보기를 공개했습니다. 고객 콘텐츠는 ZDR 환경에서 고객 관리 인프라에 남거나 고객 관리 키로 암호화되며, OpenAI 직원은 원본 콘텐츠와 암호화 키에 접근하지 못합니다. 자동화 시스템은 반복적인 보호 조치 시험, 여러 계정에 걸친 조직적 행동, 중단 지시를 따르지 않는 에이전트형 작업처럼 단일 요청만으로 파악하기 어려운 위험을 연관된 상호작용 단위로 평가하고 제한된 안전 신호를 반환합니다. 이 기능은 초기 고객을 대상으로 테스트 중이며 9월부터 순차 도입하고 기술 백서를 공개할 계획이지만, 잠재적 아동 성착취물로 플래그가 지정된 이미지는 법적 신고를 위해 보관됩니다.

빠른 이해

새로운 점

ZDR 조건을 유지하면서 단일 요청이 아닌 여러 상호작용의 위험 패턴을 자동으로 식별하는 비공개 안전 처리를 도입합니다.

핵심 메커니즘

고객 콘텐츠를 고객 관리 인프라에 유지하거나 고객 관리 키로 암호화한 뒤, 자동화 시스템이 연관된 여러 상호작용을 평가하고 OpenAI에는 원본 대신 제한된 위험 유형 신호만 전달합니다.

섹션별 상세

ZDR 환경의 안전 처리 확장

OpenAI는 API 고객에게 요청 처리 후 프롬프트와 모델 응답을 보관하지 않는 데이터 비보관 조건을 제공하면서, 여러 상호작용을 함께 살피는 비공개 안전 처리의 초기 미리보기를 공개했습니다. 기존 ZDR 호환 시스템은 각 상호작용을 따로 평가했지만, 새 방식은 연관된 요청 사이의 패턴을 자동화 시스템으로 식별합니다. OpenAI 직원은 원본 콘텐츠에 접근하지 않고 위험 유형을 나타내는 제한된 안전 신호만 받으므로, 긴 작업과 반복적인 오용에 대응할 범위를 넓히면서 고객 콘텐츠 비공개 원칙을 유지합니다.

여러 상호작용을 함께 평가하는 이유

한 번의 요청만 보면 드러나지 않는 악의적 의도는 보호 조치를 반복적으로 시험하거나 여러 계정에서 활동할 때 여러 상호작용을 합쳐야 식별될 수 있습니다. 에이전트형 작업에서도 중단 지시 뒤 행동을 계속하는 등 사용자의 의도와 어긋나는 흐름이 위험 신호가 될 수 있습니다. 모델이 더 길고 복잡한 작업을 수행할수록 정상 활동과 오용을 구분하고 부여된 권한의 범위를 벗어나는 행동을 제한하려면 개별 요청보다 넓은 맥락이 필요합니다.

콘텐츠 위치와 암호화 방식

ZDR 배포 환경에서는 고객 콘텐츠가 고객이 관리하는 인프라에 그대로 남고, OpenAI 제공 스토리지를 선택하는 경우에는 고객 관리 키로 콘텐츠를 암호화합니다. OpenAI 직원은 해당 키의 사본을 보유하지 않으므로 저장 위치가 달라도 원본 프롬프트와 응답에 직접 접근하지 못합니다. 자동화 시스템은 콘텐츠 자체를 직원에게 전달하지 않고 잠재적 오용을 식별한 뒤 관련 활동의 유형을 나타내는 제한된 신호를 반환하는 구조입니다.

안전 신호와 고객의 조사 권한

위험이 식별되면 OpenAI는 기존 안전 시스템과 마찬가지로 제재 필요성을 판단할 수 있는 제한된 범위의 신호를 받습니다. 플래그가 지정된 경우에도 OpenAI 직원은 고객 콘텐츠를 열람하지 않으며, 고객은 자체 시스템에 남아 있는 정보를 이용해 알림과 제재 결정을 조사할 수 있습니다. 이의 제기나 정상 활동 소명 또는 악용 조사에 필요한 경우 고객이 관련 정보를 OpenAI와 공유할 수 있어, 콘텐츠 통제권은 고객 측에 남습니다.

초기 테스트와 단계적 도입

비공개 안전 처리는 현재 초기 고객을 대상으로 테스트 중이며, OpenAI는 고객 콘텐츠 보호 방식을 예측할 수 있어야 한다는 요구를 반영해 미리보기를 공개했습니다. OpenAI는 9월부터 이 기능을 순차적으로 도입하고 기술 백서를 공개할 계획입니다. 도입 과정에서 진행 상황과 기존 약속에 미치는 영향을 알리고 고객이 사전에 계획할 수 있도록 시간과 지원을 제공한다는 일정이 제시됐습니다.

법적 예외와 데이터 보관

데이터 비보관 환경에서도 모든 콘텐츠가 예외 없이 저장되는 것은 아니며, OpenAI는 명백한 아동 성착취물 신고에 관한 법적 의무를 예외로 둡니다. 잠재적 아동 성착취물로 플래그가 지정된 이미지는 사람의 확인과 신고를 위해 계속 보관됩니다. 따라서 비공개 안전 처리는 일반적인 고객 콘텐츠에 대한 직원 접근과 보관을 제한하는 방식이지, 법적 신고 의무가 적용되는 자료까지 보관하지 않는다는 약속은 아닙니다.

용어 해설

데이터 비보관(Zero Data Retention): — API 요청 처리가 끝난 뒤 고객의 프롬프트와 모델 응답을 저장하지 않는 개인정보 보호 방식입니다. 이 글에서는 ZDR 환경에서 고객 콘텐츠를 고객 관리 인프라에 유지하고, 자동화된 안전 시스템만 제한된 위험 신호를 반환하도록 구성해 데이터 통제권과 안전 모니터링을 함께 유지하는 수단으로 쓰입니다.
ZDR: — Zero Data Retention의 약자로, 서비스 제공자가 API 상호작용 데이터를 기본적으로 보관하지 않는 배포 조건입니다. OpenAI는 이 환경에서 고객 콘텐츠를 고객이 제어하는 인프라에 남겨 두고, 직원이 원본 프롬프트나 응답에 접근하지 않는 안전 처리 방식을 확장하려고 합니다.
비공개 안전 처리(Privacy-Preserving Safety Processing): — 원본 고객 콘텐츠를 OpenAI 직원에게 공개하지 않은 채 여러 상호작용 사이의 위험 패턴을 자동으로 찾아내는 안전 처리 방식입니다. 개별 요청만 평가하던 기존 ZDR 호환 시스템을 연관된 상호작용 단위로 확장하고, 제재 판단에는 제한된 범위의 안전 신호만 사용합니다.
고객 관리 암호화 키(Customer-Managed Encryption Key): — 고객이 직접 관리하는 암호화 키로 저장 데이터를 보호하는 방식입니다. OpenAI 제공 스토리지를 사용할 때 고객 콘텐츠를 이 키로 암호화하며 OpenAI 직원은 키 사본을 갖지 않으므로 원본 콘텐츠를 열람하지 못하도록 설계되어 있습니다.

기술

ZDR
비공개 안전 처리
고객 관리 암호화 키
API

언급된 리소스

문서원문 링크