본문으로 건너뛰기

Lossless Speculative Decoding

손실 없는 추측적 디코딩

추측 제안이 최종 검증에서 손실 없이 모델 출력 분포를 재현하도록 보장하는 원리로, 제안 토큰의 채택 여부가 타깃 모델의 검증 규칙에 의해 결정된다.