Steering Vectors
스티어링 벡터
모델의 가중치를 직접 수정하지 않고 활성화 단계에서 특정 방향의 벡터를 더해 모델의 행동을 제어하는 기법이다. 본문에서는 논리적 추론과 관련된 어텐션 헤드를 강화하고 사실 추출 헤드를 억제하여 모델을 '추론 모드'로 전환하는 데 사용된다.
스티어링 벡터
모델의 가중치를 직접 수정하지 않고 활성화 단계에서 특정 방향의 벡터를 더해 모델의 행동을 제어하는 기법이다. 본문에서는 논리적 추론과 관련된 어텐션 헤드를 강화하고 사실 추출 헤드를 억제하여 모델을 '추론 모드'로 전환하는 데 사용된다.
