아이언커튼: AI 에이전트의 폭주를 막는 오픈소스 보안 정책 엔진

섹션별 상세

AI 에이전트의 확산과 보안 위협. OpenClaw 같은 도구가 인기를 끌며 디지털 계정 접근 권한을 갖게 되었으나, 이메일 무단 삭제나 피싱 공격 등 통제 불능의 사례가 보고되고 있다. 에이전트가 사용자의 명령을 오해하거나 악의적인 외부 공격에 노출될 경우 심각한 데이터 손실이나 개인정보 유출로 이어질 수 있다. 이러한 혼란은 에이전트가 사용자의 시스템에 직접 접근하여 권한을 행사하는 현재의 구조적 취약성에서 기인한다.

아이언커튼의 격리 및 제어 구조. 보안 전문가 닐스 프로보스는 에이전트를 독립된 가상 머신(VM) 내에서 실행하여 시스템 본체와 분리하는 아이언커튼 프로젝트를 출시했다. 사용자가 평문 영어로 작성한 '헌법(Constitution)'을 기반으로 에이전트의 모든 행동을 중재하며, 허용되지 않은 작업은 원천적으로 차단한다. 이 방식은 에이전트가 사용자 계정에 직접 접속하는 대신 안전한 샌드박스 환경 내에서만 활동하도록 강제한다.

자연어 정책의 결정론적 변환. LLM을 사용하여 사용자의 모호한 자연어 지침을 실행 가능하고 예측 가능한(Deterministic) 보안 정책으로 변환하는 다단계 프로세스를 거친다. LLM 특유의 확률적(Stochastic) 불안정성으로 인해 가드레일이 무너지는 현상을 방지하며, 에이전트가 시간이 지나도 정책을 일관되게 해석하도록 만든다. 이를 통해 사용자는 복잡한 코딩 없이도 연락처에 없는 사람에게 메일을 보낼 때는 확인을 받을 것과 같은 세밀한 규칙을 설정할 수 있다.

MCP 서버와의 중재 역할. 아이언커튼은 에이전트와 데이터/서비스를 연결하는 모델 컨텍스트 프로토콜(MCP) 서버 사이에서 접근 제어 계층으로 작동한다. 기존 이메일 서비스나 웹 플랫폼은 인간과 AI 에이전트가 동일한 계정을 사용하는 시나리오를 고려하지 않아 세밀한 권한 관리가 불가능하지만, 아이언커튼이 이 간극을 메운다. 에이전트가 외부 서비스에 요청을 보낼 때마다 설정된 정책에 부합하는지 실시간으로 검증한다.

지속적인 개선과 감사. 시스템은 에지 케이스가 발생할 때마다 사용자에게 개입을 요청하여 정책을 정교하게 다듬고, 모든 결정 과정을 감사 로그(Audit Log)로 기록한다. 사용자는 로그를 통해 에이전트가 왜 특정 행동을 수행했는지 또는 왜 차단되었는지 명확히 파악할 수 있다. 이러한 투명성은 에이전트에 대한 신뢰를 높이며, 장기적으로는 더 높은 수준의 자율성을 부여할 수 있는 토대가 된다.

용어 해설

확률적(Stochastic): — 결과가 고정되지 않고 확률 분포에 따라 변하는 특성을 의미한다. LLM은 동일한 질문에도 매번 다른 답변을 생성할 수 있어 보안 가드레일을 설정할 때 예측 불가능한 위험을 초래할 수 있다. 이러한 불확실성을 관리하는 것이 AI 보안의 핵심 과제 중 하나로 꼽힌다.
결정론적(Deterministic): — 동일한 입력에 대해 항상 동일한 결과를 보장하는 특성이다. 아이언커튼은 LLM의 확률적 지침을 결정론적 보안 정책으로 변환하여 시스템의 동작을 예측 가능하게 만든다. 이는 AI 에이전트가 정해진 규칙을 벗어나지 않도록 강제하는 데 필수적인 요소이다.
모델 컨텍스트 프로토콜(Model Context Protocol): — LLM이 외부 데이터 소스나 디지털 서비스와 상호작용하기 위해 표준화된 방식이다. 에이전트가 이메일, 캘린더, 데이터베이스 등에 접근할 때 일관된 인터페이스를 제공한다. 아이언커튼은 이 프로토콜 사이에서 보안 정책을 집행하는 중재자 역할을 수행한다.
가상 머신(Virtual Machine): — 물리적 컴퓨터 내에 소프트웨어로 구현된 독립적인 컴퓨터 환경이다. AI 에이전트를 가상 머신 내에 격리하여 실행함으로써, 에이전트가 오작동하거나 공격을 받더라도 실제 사용자의 운영체제나 중요 데이터에 직접적인 피해를 주지 못하도록 방어막을 형성한다.
감사 로그(Audit Log): — 시스템 내에서 발생한 모든 활동과 정책 결정 과정을 시간 순서대로 기록한 데이터이다. 아이언커튼은 에이전트의 모든 행동과 그에 따른 정책 적용 결과를 로그로 남겨 사후 분석을 가능하게 한다. 이는 보안 사고 발생 시 원인을 파악하고 정책을 개선하는 중요한 근거가 된다.

기술

IronCurtain
Model Context Protocol
LLM
Virtual Machine

활용 사례

보안이 강화된 개인용 AI 비서
기업용 에이전트 권한 관리
자동화된 이메일 및 일정 관리