본문으로 건너뛰기
AI Trends
피드
트렌딩
커뮤니티
탐색
보관함
로그인
홈
트렌딩
커뮤니티
보관함
프로필
token-level-divergence
토큰 수준 발산
교사와 학생의 다음 토큰 분포 간 차이를 각 토큰마다 측정하고 최소화하는 손실로Dense한 중간 추론 피드백을 제공한다.
비슷한 개념
dense-teacher-supervision
reverse-kl
logit-level-supervision
token-level gating
top-k
forward-kl-warmup
trajectory-level-kl
token-based-distillation
← 용어 사전 전체 보기