어텐션 희소성
긴 문맥 속에서도 특정 토큰들만이 결과 생성에 유의미한 영향을 미치는 특성이다. 이를 활용해 중요도가 낮은 토큰의 연산을 건너뜀으로써 긴 컨텍스트 처리 속도를 획기적으로 개선할 수 있다.