AI 에이전트의 도구 오염 공격을 방어하는 Arc Gate 및 Arc Sentry

커뮤니티 반응

에이전트 보안에 대한 실질적인 위협을 다루고 구체적인 벤치마크 결과를 제시하여 긍정적인 반응을 얻고 있습니다.

01찬성다수

에이전트의 도구 오염 공격은 실질적 위협이며, 아키텍처 수준의 방어 레이어가 필수적이다.

에이전트가 처리하는 외부 데이터(이메일, 웹페이지, 문서 등)는 잠재적인 악성 명령어 소스이다. 에이전트는 데이터와 명령어를 구분하지 못하므로, 도구 접근 권한이 부여된 에이전트는 공격자의 지시를 그대로 수행할 위험이 있다.

Arc Gate는 명령어의 출처를 강제하는 아키텍처를 통해 ETH Zurich의 AgentDojo 벤치마크 54개 시나리오에서 100%, University of Illinois의 InjecAgent 200개 테스트 케이스에서 99%의 방어율을 기록했다.

Arc Sentry는 모델의 내부 상태를 생성(generate) 단계 이전에 모니터링하여, 기존 텍스트 분류 기반 도구인 LLM Guard가 탐지하지 못한 USENIX 2025 다중 턴(multi-turn) 탈옥 공격을 3번째 턴에서 차단했다.

단순 텍스트 분류는 프롬프트 내용만 읽지만, Arc Gate와 Arc Sentry는 명령어 출처 제어와 내부 상태 모니터링이라는 아키텍처적 접근을 통해 실제 프로덕션 환경의 보안을 강화한다.

Arc Gate추천링크

명령어 출처 강제 및 도구 오염 방어

Arc Sentry추천링크

모델 내부 상태 모니터링 및 탈옥 방어

LLM Guard비추천

텍스트 분류 기반 보안