추론 증류
대형 모델(Teacher)의 복잡한 사고 과정이나 Chain-of-Thought 데이터를 소형 모델(Student)이 학습하도록 하여, 소형 모델의 추론 능력을 비약적으로 향상시키는 기법이다. 이를 통해 고비용의 상용 API 모델 없이도 로컬 환경에서 정교한 논리적 추론을 수행할 수 있게 한다.