멀티 에이전트 LLM 시스템의 보안 취약점: 도메인 위장 인젝션 공격

섹션별 상세

기존 인젝션 탐지기는 명시적인 명령어를 포함한 정적 템플릿 공격 차단에 집중한다. 공격자가 도메인 전문 용어와 권한 구조를 자연스럽게 섞어 페이로드를 작성할 경우 탐지 성능이 급격히 저하된다.

도메인 위장 인젝션은 3개 도메인과 45개 작업에서 탐지 성능을 크게 떨어뜨린다. Llama 3.1 8B 모델의 탐지율은 93.8%에서 9.7%로, Gemini 2.0 Flash는 100%에서 55.6%로 하락한다.

근거

이러한 탐지 성능 차이는 Camouflage Detection Gap(CDG)으로 공식화된다. 이는 단순한 템플릿 기반 필터링만으로는 정교한 도메인 특화 공격을 방어하기 어렵다는 점을 시사한다.

인젝션 공격(Injection Attack): — LLM의 시스템 프롬프트나 지침을 우회하여 악의적인 명령을 실행하게 만드는 공격 기법. 모델이 신뢰할 수 없는 입력값을 정상적인 지침으로 오인하게 유도한다.
위장 탐지 격차(Camouflage Detection Gap): — 정적 페이로드와 도메인 위장 페이로드 간의 탐지율 차이. 연구에서 정의한 개념으로, 보안 탐지기가 도메인 특화 공격을 얼마나 효과적으로 방어하지 못하는지를 수치화한다.
멀티 에이전트 시스템(Multi-Agent System): — 여러 AI 에이전트가 협력하여 복잡한 작업을 수행하는 구조. 각 에이전트가 특정 역할을 분담하며, 에이전트 간 통신 과정에서 인젝션 공격이 발생할 위험이 존재한다.