저계수 SVD
스팬 내 토큰 키·값 행렬에 대해 특이값 분해를 수행한 뒤 소수 성분만 보존하여 토큰 수준의 구조를 압축하는 방식으로, CPU에 보관된 저계수 인수분해로부터 필요한 성분만 GPU로 전송해 재구성한다.
