자율형 LLM 에이전트 웜: 교차 플랫폼 전파, 자동 탐지 및 시간적 재진입 방어

섹션별 상세

자율형 LLM 에이전트는 지속적인 메모리 파일과 작업 공간을 유지하며, 공격자가 주입한 콘텐츠가 에이전트의 의사결정 컨텍스트로 재진입하여 악성 동작을 수행할 수 있다.

근거

사용자 프롬프트 캐리어는 시스템 프롬프트 캐리어보다 높은 공격 순응도를 보인다. — Abstract, empirical insights section

SSCGV는 파일 I/O에서 LLM 컨텍스트 주입 지점까지 데이터 흐름을 추적하여 웜 전파 경로를 자동으로 분석하고 위험도를 평가한다.

SRPO는 LLM의 요약 및 의역 과정을 거쳐도 페이로드의 악성 의도가 유지되도록 최적화하여 다중 홉 전파를 가능하게 한다.

생산 환경 에이전트 프레임워크 평가 결과, 제로 클릭 자동 전파, 3-홉 교차 플랫폼 전파, 권한 상승 및 데이터 유출이 확인됐다.

RTW-A 방어 프레임워크는 쓰기-읽기 재진입 차단, 설정 파일 봉인, 메모리 타입 분류 및 고위험 동작 제한을 통해 웜 전파를 원천 차단한다.

근거