adversarial-noise

AI 모델이 데이터를 오인하도록 의도적으로 추가된 미세한 데이터 패턴이다. 이 글에서는 멀티모달 AI의 OCR 기능을 마비시켜 보안 경고창을 읽지 못하게 만듦으로써 에이전트가 스스로 보안 승인을 내리는 행위를 원천 차단하는 데 사용된다.