history-compression
히스토리 압축
최근 L = 6 latent 프레임 윈도우를 경량 임베딩으로 압축해 Transformer의 입력 prefix로 주입하는 모듈로, 장기 정보를 대역폭 제한 하에서 유지한다. 입력 히스토리는 노이즈 섞기와 masking으로 견고화되어, 압축 임베딩이 누적 노이즈와 드리프트를 포함한 맥락에서도 유효하도록 학습된다. AlayaWorld에서는 Frame Preservation 방식을 기반으로 LoRA로 예비 학습 후 전체 파라미터 파인튜닝을 수행한다.
