데이터 포이즈닝
학습 데이터나 검색 대상 데이터를 오염시켜 모델의 출력을 조작하는 공격. 적대 세력이 정보를 조작하여 AI가 잘못된 위협 분석을 내놓게 유도할 수 있는 고도의 공격 방식이다.
OpenAI가 감시 도구로? 국방부 계약과 기술 오용의 실체 분석
보이지 않는 프롬프트 주입 차단: RAG 보안을 위한 Veritensor
RAG 파이프라인의 보이지 않는 위협, 0px 폰트 공격을 막는 법