MVAR: AI 에이전트를 위한 결정론적 보안 실행 방화벽

섹션별 상세

프롬프트 인젝션을 모델의 언어적 문제가 아닌 시스템 실행의 문제로 정의하고, 모델 출력이 특권 도구에 도달하기 전에 차단하는 방식을 취한다.

결정론적 정책 엔진을 통해 신뢰할 수 없는 입력이 셸 명령, API 호출, 파일 시스템 접근과 같은 위험한 싱크에 도달하는 것을 물리적으로 방지한다.

python

from mvar import protect, ExecutionBlocked

safe_tool = protect(my_bash_tool) # balanced profile by default

try:
    safe_tool("cat /etc/shadow")
except ExecutionBlocked as e:
    print(e.decision["outcome"]) # BLOCK
    print(e.decision["reason"])

MVAR를 사용하여 기존 도구를 보호하고 차단된 실행 시도를 예외 처리하는 기본 코드 예시

암호학적 증거 체인을 생성하여 모든 보안 결정 사항의 무결성을 보장하며, 오프라인에서도 보안 이력을 검증하고 감사할 수 있는 투명성을 제공한다.

직접 명령 주입, 환경 변수 공격, 인코딩된 페이로드 등 50개의 공격 벡터를 포함한 테스트 세트에서 100% 차단율을 기록하며 실효성을 입증했다.

MVAR가 공격 시나리오에서 실행을 차단하는 과정을 보여주는 터미널 데모 영상이다. — Screenshot일반적인 런타임에서는 공격자가 주입한 명령이 실행되지만, MVAR 런타임에서는 실행 전에 이를 감지하고 결정론적으로 차단하는 과정을 시각적으로 증명한다. 차단 사유와 함께 암호학적 증거가 생성되는 모습도 포함되어 있다.

LangChain, CrewAI, AutoGen, OpenAI Agents SDK 등 업계 표준 AI 에이전트 프레임워크와 즉시 연동 가능한 어댑터를 지원하여 도입 편의성을 높였다.

사용자 요구에 따라 balanced, strict, permissive 등 다양한 보안 프로필을 선택하여 에이전트의 자율성과 보안성 사이의 균형을 조절할 수 있다.

용어 해설

프롬프트 인젝션(Prompt Injection): — 사용자의 입력을 조작하여 LLM이 개발자의 의도와 다른 악의적인 명령을 실행하거나 민감한 정보를 유출하도록 유도하는 공격 기법이다. 에이전트가 시스템 권한을 가질 경우 심각한 보안 사고로 이어질 수 있다.
실행 싱크(Execution Sink): — 데이터 흐름의 최종 단계에서 실제로 시스템 명령 실행, API 호출, 파일 시스템 접근 등 외부 환경에 물리적인 영향을 미치는 지점을 의미한다. 보안 정책을 강제하기에 가장 효과적인 위치이다.
결정론적 정책(Deterministic Policy): — 동일한 입력과 조건에 대해 항상 동일하고 예측 가능한 결과를 내놓는 보안 규칙이다. 확률에 의존하는 AI 기반 탐지와 달리 명확한 차단 기준을 제공하여 보안의 신뢰성을 높인다.
암호학적 증거(Cryptographic Witness): — 보안 결정 과정과 결과를 디지털 서명하여 생성한 데이터이다. 이 데이터는 사후에 변조 여부를 확인하고 보안 사고 발생 시 결정의 정당성을 입증하는 감사 자료로 활용된다.
모델 컨텍스트 프로토콜(MCP): — AI 모델이 외부 도구, 데이터 소스 및 서비스와 안전하고 표준화된 방식으로 상호작용할 수 있도록 설계된 개방형 프로토콜이다.

기술

Python
LangChain
OpenAI SDK
MCP
CrewAI
AutoGen

활용 사례

자율 코딩 에이전트의 위험 명령 실행 방지
RAG 시스템에서의 민감 데이터 유출 차단
외부 API와 연동되는 에이전트의 권한 오남용 제어

언급된 리소스

GitHubMVAR GitHub Repository

DemoClawZero 60-second Demo

논문Execution Witness Binding Research Paper

from mvar import protect, ExecutionBlocked safe_tool = protect(my_bash_tool) # balanced profile by default try: safe_tool("cat /etc/shadow") except ExecutionBlocked as e: print(e.decision["outcome"]) # BLOCK print(e.decision["reason"])

MVAR: AI 에이전트를 위한 결정론적 보안 실행 방화벽

섹션별 상세

용어 해설

기술

활용 사례

언급된 리소스

MVAR: AI 에이전트를 위한 결정론적 보안 실행 방화벽

섹션별 상세

용어 해설

기술

활용 사례

언급된 리소스

관련 토론

댓글

관련 피드

관련 토론

댓글

관련 피드