저계수 쿼리 보정
토큰 수준 쿼리와 압축된 청크 키의 표현 차이를 줄이기 위해 추가되는 저랭크 어댑터이다. 입력 숨김 상태에 대해 up/down 프로젝션을 통해 쿼리를 보정하여 청크 질량 대리변수의 정확도를 개선한다. 모델 크기에 비해 경량이며 길이 외삽 성능과 퍼플렉시티 개선에 기여한다.
