long-horizon-distillation

장기 증류는 장시간 롤아웃에서 누적되는 오류 상태를 직접 감독하기 위해 긴 시퀀스를 분절하여 순차적으로 최적화하는 기법이다. 메모리 한계 때문에 클립을 나눠 그래프를 비우고 그라디언트를 누적하는 방식으로 전체 수평의 영향을 반영한다. 이 접근은 긴 스트림에서 발생하는 점진적 드리프트를 줄이는 데 목적이 있다.