on-policy-gkd
On-Policy Generalized Knowledge Distillation
학생 모델이 자신의 응답을 샘플링하면 동일 입력 위에서 고정된 교사 모델이 학생이 생성한 접두사에 대한 토큰 분포를 제공하여 학생을 교사 분포에 맞추는 증류 방식이다. 이 방식은 학생의 실제 추론 분포에서 발생하는 오류를 교사가 바로 보정하도록 학습시켜 동적 규칙 케이스에서 일반화 성능을 향상시킨다.
중급
On-Policy Generalized Knowledge Distillation
학생 모델이 자신의 응답을 샘플링하면 동일 입력 위에서 고정된 교사 모델이 학생이 생성한 접두사에 대한 토큰 분포를 제공하여 학생을 교사 분포에 맞추는 증류 방식이다. 이 방식은 학생의 실제 추론 분포에서 발생하는 오류를 교사가 바로 보정하도록 학습시켜 동적 규칙 케이스에서 일반화 성능을 향상시킨다.