CoT Monitorability
CoT 모니터링 가능성
모델이 생성한 Chain of Thought를 읽어 실제 내부 작업을 얼마나 잘 파악할 수 있는지를 뜻합니다. 모델이 어려운 문제를 풀 때 CoT를 기계적으로 필요로 하면 관찰 가능한 추론 흔적이 남을 가능성이 커지지만, 한 번의 순전파에서 더 많은 계산을 수행하면 CoT 없이도 문제를 풀 수 있습니다. 글은 Astra의 높은 No-CoT 능력이 CoT 모니터링 가능성을 낮추는 요인일 수 있다고 추정하지만 두 지표의 직접적인 동일성은 부정합니다.
