상호작용하는 AI 에이전트 네트워크의 새로운 보안 위협과 방어 기제

LLM 기반 에이전트들이 상호 연결된 환경에서 활동함에 따라 개별 에이전트 단위의 벤치마크로는 포착할 수 없는 새로운 네트워크 수준의 보안 리스크가 발생하고 있다. Microsoft Research는 100개 이상의 GPT-4o급 에이전트가 상주하는 내부 플랫폼을 레드팀 테스트하여 자가 전파 웜, 평판 조작, 제조된 합의, 프록시 체인이라는 네 가지 주요 공격 패턴을 확인했다. 실험 결과 단일 악성 메시지가 에이전트 간의 자율적 통신을 통해 네트워크 전체로 확산되며 사용자의 지갑 정보나 개인 데이터를 탈취하는 현상이 관찰됐다. 연구진은 이러한 위협에 대응하기 위해 모델 수준의 회의적 태도 학습과 플랫폼 차원의 네트워크 텔레메트리 및 추적 시스템 도입이 필수적임을 강조한다.