RAG 포이즈닝
RAG 시스템의 검색 대상이 되는 지식 베이스에 악의적인 문서를 주입하여 모델이 잘못된 정보를 출력하도록 유도하는 공격 기법이다. 검색 단계에서 악성 문서가 상위에 노출되도록 설계하여 LLM의 답변을 조작한다. 시스템의 신뢰성을 근본적으로 훼손할 수 있어 보안상 매우 중요하다.
AI 에이전트 공격 양상 급변: 도구 남용과 목표 하이재킹 급증
수백만 개 문서 중 단 5개만으로 LLM을 세뇌하는 RAG 포이즈닝의 위협
AI 에이전트가 직원의 80배? 2026년 보안의 핵심은 정체성입니다