Activation Drift
활성화 드리프트
활성화 드리프트는 입력 문맥이 바뀌면서 모델 내부 표현이 특정 방향으로 지속적으로 이동하는 현상이다. 글에서는 지시문이나 탈옥 문구가 없어도 일관된 장문 텍스트가 모델의 활성화와 안전 관련 출력 행동을 세션 전체에 걸쳐 바꿀 수 있다고 해석했다.
활성화 드리프트
활성화 드리프트는 입력 문맥이 바뀌면서 모델 내부 표현이 특정 방향으로 지속적으로 이동하는 현상이다. 글에서는 지시문이나 탈옥 문구가 없어도 일관된 장문 텍스트가 모델의 활성화와 안전 관련 출력 행동을 세션 전체에 걸쳐 바꿀 수 있다고 해석했다.
