Claude Code 유출로 드러난 AI 실행 거버넌스의 부재와 해결 방안

주요 논점

01찬성다수

에이전트의 자율성이 확대됨에 따라 단순 로그를 넘어선 독립적인 실행 증명 계층이 반드시 필요하다.

섹션별 상세

AI 에이전트가 도구 사용 및 브라우저 접근 권한을 갖게 되면서 실행 거버넌스의 부재가 심각한 문제로 떠올랐다. 에이전트의 행위가 실제 환경에 영향을 미칠 때, 누가 해당 작업을 승인했는지와 어떤 정책이 적용되었는지를 명확히 규정하는 체계가 요구된다. Claude Code 유출 사건은 이러한 거버넌스 공백이 실제 보안 위협으로 이어질 수 있음을 확인시켜 주었다. 이는 단순한 기능 구현을 넘어 시스템의 신뢰성을 담보하기 위한 필수적인 설계 요소이다.

기존의 로그와 관측 도구는 에이전트의 복잡한 멀티스텝 워크플로우를 사후에 추적하기에는 보안상 취약하다는 한계가 있다. 작성자는 원본 플랫폼의 신뢰 여부와 관계없이 제3자가 독립적으로 검증할 수 있는 '증명(Proof)' 계층의 도입이 필요하다고 밝혔다. 이는 로그 데이터가 단순한 텍스트 기록을 넘어 법적 또는 기술적 방어 수단으로 활용될 수 있게 한다. 이를 통해 에이전트의 행위 기록이 변조되지 않았음을 기술적으로 보증할 수 있다.

Decision Passport는 추가 전용(Append-only) 기록 방식과 휴대 가능한 증명 번들을 활용하여 실행 컨텍스트를 보존한다. 이 시스템은 오프라인에서도 검증이 가능하도록 설계되어, 에이전트가 샌드박스를 이탈하거나 비정상적인 동작을 수행했을 때 그 증거를 명확히 남긴다. 공개된 소스 코드에는 이러한 변조 방지 체인과 오프라인 검증 로직이 실제로 구현되어 있다. 이러한 구조는 에이전트의 자율성과 보안 사이의 균형을 맞추는 데 기여한다.

커뮤니티에는 이러한 감사 계층이 실제 워크플로우에서 과잉 엔지니어링인지 아니면 필수적인 보안 인프라인지에 대한 의견을 물었다. 특히 에이전트가 생성한 기록을 원래의 런타임 외부에서도 신뢰할 수 있게 만드는 것이 거버넌스의 핵심 과제임을 분명히 했다. 작성자는 Decision Passport의 코어 라이브러리와 라이트 버전을 깃허브에 배포하여 실무자들의 검증을 요청했다. 이는 향후 에이전트 보안 표준에 대한 커뮤니티의 합의를 이끌어내기 위한 시도이다.

용어 해설

실행 거버넌스(Execution Governance): — AI 시스템, 특히 자율 에이전트가 사전에 정의된 정책과 권한 내에서만 동작하도록 제어하고 감시하는 체계이다. 에이전트의 도구 사용이나 데이터 접근을 실시간으로 관리하여 보안 사고를 예방하고 책임 소재를 명확히 하는 역할을 한다.
관측 가능성(Observability): — 시스템의 내부 상태를 외부 출력인 로그, 메트릭, 트레이스 등을 통해 얼마나 잘 파악할 수 있는지를 나타내는 지표이다. 복잡한 AI 워크플로우에서 발생한 오류의 원인을 진단하고 실행 과정을 투명하게 파악하는 데 필수적이다.
추가 전용 기록(Append-only Record): — 기존 데이터를 수정하거나 삭제할 수 없고 오직 새로운 데이터만 추가할 수 있는 기록 방식이다. 데이터의 무결성을 보장하며, AI 에이전트가 수행한 모든 작업의 이력을 조작 없이 보존하여 사후 감사에 활용할 수 있게 한다.
변조 방지 체인(Tamper-evident Chain): — 데이터의 변경이나 조작이 발생했을 때 이를 즉각적으로 감지할 수 있도록 설계된 데이터 구조이다. 각 기록이 이전 기록의 해시값을 포함하여 연결됨으로써, 에이전트의 실행 로그가 생성된 시점부터 검증 시점까지 변하지 않았음을 증명한다.
샌드박스 탈출(Sandbox Escape): — AI 모델이나 에이전트가 제한된 실행 환경인 샌드박스를 벗어나 호스트 시스템이나 네트워크에 무단으로 접근하는 보안 사고이다. 에이전트가 자율적으로 도구를 사용할 때 발생할 수 있는 가장 위험한 시나리오 중 하나로 꼽힌다.

언급된 도구

Decision Passport추천링크

변조 방지 실행 기록 및 증명 시스템

언급된 리소스

GitHubDecision Passport Core GitHub

GitHubOpenClaw Lite GitHub