파인튜닝 포이즈닝
파인튜닝 데이터에 소량의 악성 예시를 섞어 모델이 특정 트리거에 반응하도록 은밀한 동작을 학습하게 만드는 공격이다. 공격자는 입력 패턴이나 문구에 결합된 트리거를 통해 잘못된 행동을 유발하도록 모델의 업데이트를 조작한다. 본문은 이러한 공격을 데이터 검증으로만 방어하기 어려운 상황에서 학습 가능한 업데이트 자체의 표현력을 제한하는 방어를 제안한다.