본문으로 건너뛰기

remasking

리마스킹

확정된(unmasked) 토큰을 샘플링 도중 다시 흡수 상태로 되돌리는 메커니즘으로, 오류가 초기에 확정된 뒤에는 되돌릴 수 없던 표준 MDLM의 한계를 극복하기 위해 도입되었다. 논문은 σ_t 스케줄로 리마스크 확률을 제어하고 이를 교차 모달 신호와 결합해 자기보정(remask-based correction)을 수행한다.