청크 단위 희소 어텐션
전체 시퀀스를 일정 길이의 청크로 분할하고 각 쿼리가 모든 토큰 대신 일부 청크만 선택해 어텐션을 수행하는 방식이다. 선택된 청크들에만 KV를 로드해 계산과 메모리 비용을 고정 예산으로 유지하며 긴 컨텍스트를 처리할 수 있게 한다. 청크 선택의 정확도가 성능과 extrapolation에 직접적인 영향을 미친다.