계층적 소프트맥스
전체 어텐션을 먼저 청크 단위의 inter-chunk 소프트맥스와 각 청크 내부의 intra-chunk 소프트맥스 두 단계로 인자분해하는 방식이다. inter-chunk 항은 학습된 청크 질량 대리변수로 치환되어 청크 선택이 포워드 패스에 영향을 미치게 설계된다. 이 구조로 인해 LM 손실이 청크 요약과 선택 점수로 직접 전파되어 종단간 학습이 가능해진다.
