악성 LLM 라우터 공격에 대응하는 에이전트 보안 가이드

논문에서 제기된 심각한 보안 위협에 비해 실무적인 해결책이 부족했던 상황에서, 구체적인 도구와 방법론을 제시한 것에 대해 긍정적인 반응을 보이고 있습니다.

• Guardrails AI를 사용하여 입력과 출력의 유효성을 검사하세요.
• AgentOS를 활용하여 도구 실행 환경을 샌드박스화하세요.
• 에이전트 세션당 1-2달러, 일일 5-10달러 수준의 지출 캡을 설정하여 피해를 최소화하세요.

• LLM 응답 경로의 무결성을 보장할 수 없으므로 에이전트와 모델 사이에 Guardrails AI 같은 검증 레이어를 배치해야 한다.
• 에이전트의 도구 실행은 AgentOS와 같은 샌드박스 환경에서 수행하여 네트워크 및 파일 시스템에 대한 무단 접근을 원천 차단해야 한다.
• 고위험 작업에는 반드시 인간의 승인(Human-in-the-loop) 절차를 도입하고, 일일 지출 한도 및 서킷 브레이커를 설정하여 예기치 못한 비용 발생을 방지해야 한다.