ChatGPT 프로젝트 메모리 격리 버그: 프로젝트 전용 설정에서도 정보가 유출되는 현상

핵심 요약

ChatGPT의 프로젝트 전용 메모리 설정에도 불구하고, 일반 대화 기록 참조 기능이 활성화된 경우 다른 프로젝트의 정보가 유출되는 보안 취약점이 보고됐다.

배경

사용자가 ChatGPT의 '프로젝트(Projects)' 기능에서 메모리 격리가 제대로 이루어지지 않는 버그를 발견하여 공유했다. 프로젝트 전용 메모리 설정을 사용하더라도 특정 조건에서 다른 프로젝트의 데이터에 접근할 수 있다는 사실이 확인됐다.

의미 / 영향

이 토론은 ChatGPT의 프로젝트 기능이 제공하는 데이터 격리 수준이 사용자의 기대보다 낮을 수 있음을 시사한다. 특히 전역 설정인 대화 기록 참조 기능이 프로젝트별 격리 설정을 무력화할 수 있다는 점이 확인됐다.

커뮤니티 반응

작성자가 직접 여러 번 재현에 성공했다고 밝히며 다른 사용자들에게도 동일한 버그가 발생하는지 확인을 요청하고 있다.

주요 논점

01중립다수

프로젝트 전용 메모리 설정이 있더라도 일반 대화 기록 참조 설정이 우선순위를 가질 수 있다는 기술적 취약점 지적

합의점 vs 논쟁점

합의점

무작위 64자 문자열을 맞추는 것은 통계적으로 불가능하므로 이는 명백한 데이터 유출 사례이다.

실용적 조언

민감한 데이터를 다루는 프로젝트를 사용할 때는 설정에서 '대화 기록 참조(Reference chat history)' 기능을 비활성화할 것을 권장한다.
보안이 중요한 정보는 ChatGPT가 거부하지 않도록 일반적인 명칭(예: 사람 이름)으로 위장하여 테스트해볼 수 있다.

전문가 의견

64자 무작위 문자열(영문, 숫자, 기호 포함)을 무작위 대입으로 맞출 확률은 우주의 모든 에너지를 사용해도 100만 분의 1 미만이다.

언급된 도구

ChatGPT Projects중립

특정 프로젝트 단위로 대화 맥락과 파일을 관리하는 기능

섹션별 상세

사용자는 무작위 문자열 생성기를 사용하여 생성된 암호 같은 정보를 특정 프로젝트에 입력한 뒤, 다른 프로젝트에서 이를 조회하는 방식으로 버그를 재현했다. '프로젝트 전용(Project-only)' 메모리 설정을 활성화했음에도 불구하고, ChatGPT가 이전 프로젝트에서 입력된 고유한 정보를 정확히 기억해내는 현상이 발생했다. 이는 프로젝트 간의 데이터 격리가 완벽하지 않음을 시사한다.

이 버그는 설정 메뉴의 '대화 기록 참조(Reference chat history)' 옵션이 활성화되어 있을 때 발생하는 것으로 추정된다. 사용자는 ChatGPT가 해당 정보를 영구 메모리(Memory)로 저장했는지 여부와 관계없이 정보 유출이 일어난다고 주장했다. 또한, 보안상의 이유로 '비밀번호'나 '코드'라고 명시할 경우 거부될 수 있으므로 '사람의 이름' 등으로 위장하여 입력하는 팁을 공유했다.

사용자는 64자리의 무작위 문자열을 ChatGPT가 우연히 맞출 확률이 극히 희박하다는 점을 강조했다. 관측 가능한 우주의 모든 에너지를 동원하더라도 이러한 문자열을 무작위로 맞출 확률은 100만 분의 1보다 작다는 계산 결과를 인용했다. 따라서 ChatGPT가 해당 정보를 출력한 것은 단순한 추측이 아니라 실제 데이터 유출에 의한 결과임을 확신했다.

실무 Takeaway

ChatGPT 프로젝트 기능의 '프로젝트 전용 메모리' 설정이 완벽한 데이터 격리를 보장하지 못할 수 있다.
설정 내 '대화 기록 참조' 기능이 활성화된 경우 프로젝트 간 정보 공유가 발생할 가능성이 높다.
민감한 정보를 다룰 때는 프로젝트 기능을 과신하지 말고 보안 설정과 입력 방식에 주의해야 한다.