입력값 검증
시스템에 입력되는 데이터가 예상된 형식과 안전한 내용을 담고 있는지 확인하는 보안 절차이다. RAG에서는 외부 문서가 지식 베이스에 저장되기 전 악성 코드나 조작된 정보가 포함되었는지 검사하는 역할을 한다. 데이터 오염 공격을 방어하는 가장 기본적인 방어선이다.
수백만 개 문서 중 단 5개만으로 LLM을 세뇌하는 RAG 포이즈닝의 위협