지속적 사후 학습
기초 모델(foundation model)을 배포 후에도 추가 데이터로 계속 학습시켜 새로운 지식을 축적하는 과정으로, 기존 능력을 보존하면서 점진적으로 특화하는 것이 목표이다. 본 논문은 이 과정에서 on-policy 자기증류가 오히려 망가짐이나 망가짐 위험을 높일 수 있음을 다룬다.