negation-gravity-well

프롬프트에 '하지 마라'는 부정어를 넣을수록 오히려 해당 개념의 토큰이 주입되어 안전 필터에 걸릴 확률이 높아지는 현상이다. 분류기는 문법적 맥락보다 토큰의 존재 자체에 가중치를 두기 때문에 발생한다.