Activation Monitoring

모델의 네트워크 내부 활성값에 직접 접근해 특정 행동이나 추론 경향을 감시하는 방식입니다. 글에서는 자연어 사고 과정 감시의 한계를 보완하기 위해 CoT 모니터링과 결합할 수 있는 접근으로 제시됩니다.