인과적 자기-어텐션
입력 시퀀스에서 각 토큰이 과거 토큰만 볼 수 있도록 키·쿼리·값 연산을 마스킹해 계산하는 어텐션 방식이다. 로컬 블록 내에서는 dense하게 계산되어 문맥 내 종속성을 포착하고, 블록 경계를 넘는 정보는 별도 메모리 표현으로 처리하는 설계에서 핵심적 역할을 한다. 긴 문맥을 처리하면서 순차적 생성(autogressive) 성질을 유지하는 데 중요하다.
