Draft acceptance
초안 토큰 수용률
Draft acceptance는 초안 모델이 만든 토큰 가운데 원래 모델의 검증을 통과한 토큰의 비율입니다. 수용률이 높을수록 한 번의 검증에서 더 많은 토큰을 확정할 수 있어 Speculative Decoding의 처리량이 커집니다.
초안 토큰 수용률
Draft acceptance는 초안 모델이 만든 토큰 가운데 원래 모델의 검증을 통과한 토큰의 비율입니다. 수용률이 높을수록 한 번의 검증에서 더 많은 토큰을 확정할 수 있어 Speculative Decoding의 처리량이 커집니다.
