multi-token-prediction
다중 토큰 예측
다음 토큰 하나만 예측하는 대신 여러 미래 토큰을 함께 제안하도록 학습하는 방식입니다. Nemotron 3.5 Lightning은 MTP 전용 continued-pretraining 단계를 거쳤고, 추론 중 제안된 후보를 효율적으로 검증합니다. 이 구조가 높은 출력 속도를 뒷받침합니다.
다중 토큰 예측
다음 토큰 하나만 예측하는 대신 여러 미래 토큰을 함께 제안하도록 학습하는 방식입니다. Nemotron 3.5 Lightning은 MTP 전용 continued-pretraining 단계를 거쳤고, 추론 중 제안된 후보를 효율적으로 검증합니다. 이 구조가 높은 출력 속도를 뒷받침합니다.
