델타 어텐션
델타 어텐션은 전체 컨텍스트를 매번 재계산하지 않고 변경된 부분만 갱신해 장문 컨텍스트 처리 비용을 줄이는 접근이다. 이 방식은 긴 컨텍스트에서 토큰 디코딩 비용을 크게 감소시킬 수 있으며, 글에서는 1M 토큰 환경에서 디코딩 속도 개선 효과가 보고되었다. 긴 코드베이스나 대화 히스토리를 유지하는 시스템에서 비용과 지연을 낮추는 것이 중요한 이유이다.
