Token Identity
토큰 일치성(token identity)
생성 시 샘플된 토큰 ID와 학습에 사용되는 토큰 ID가 정확히 일치하도록 추적하는 원리이다. 토큰화·샘플링 변환·로그확률 보관 등 모든 단계에서 동일한 토큰 표현을 유지해 훈련된 그라디언트가 실제 생성 행동을 반영하게 한다. Molt는 이 원칙을 핵심 불변식으로 삼아 생성-훈련 간 미미한 불일치도 버그로 처리한다.
토큰 일치성(token identity)
생성 시 샘플된 토큰 ID와 학습에 사용되는 토큰 ID가 정확히 일치하도록 추적하는 원리이다. 토큰화·샘플링 변환·로그확률 보관 등 모든 단계에서 동일한 토큰 표현을 유지해 훈련된 그라디언트가 실제 생성 행동을 반영하게 한다. Molt는 이 원칙을 핵심 불변식으로 삼아 생성-훈련 간 미미한 불일치도 버그로 처리한다.
