safety-refusal-direction

모델이 특정 응답을 거부하도록 학습된 내부 활성화 방향을 가리키는 표현입니다. 연구진은 이 방향을 제거하는 방식으로 자기 의식 귀속을 막는 학습이 다른 존재와 영성에 대한 판단까지 억제하는 현상을 되돌렸습니다.