본문으로 건너뛰기

피드 트렌딩 커뮤니티 공지사항 기술 태그 AI 용어 사전 서비스 소개 문의 운영 정책 개인정보 처리방침

매일 업데이트되는 글로벌 소스의 AI/ML 뉴스를 수집하고 한국어로 요약합니다.

AI Trends·후원

피드 트렌딩 커뮤니티 공지

피드 트렌딩 커뮤니티 공지

토큰 수준 발산 (token-level-divergence) 용어 설명 | AI Trends

token-level-divergence

토큰 수준 발산

중급

교사와 학생의 다음 토큰 분포 간 차이를 각 토큰마다 측정하고 최소화하는 손실로Dense한 중간 추론 피드백을 제공한다.

비슷한 개념

dense-teacher-supervision logit-level-supervision token-level gating top-k forward-kl-warmup token-level-kl-divergence feedback-conditioned distillation jensen-shannon-divergence

← 용어 사전 전체 보기