reference-sliding-window-attention

이미지 내 장거리 문자 관계를 처리하기 위해 윈도우 기반 어텐션을 움직이면서 과거 참조 토큰을 재활용하는 기법으로, 입력 이미지의 패치들을 윈도우 단위로 처리하면서 참조 버퍼를 사용해 문맥 정보를 유지한다. 이 방식은 전체 시퀀스에 대한 전역 어텐션을 피하면서도 문서 전체의 문자 흐름을 부분적으로 보존하므로 계산 비용을 낮추면서 긴 문서에서의 문자 인식 정확도를 개선하는 데 중요하다.