cross-attention-cache
교차 어텐션 캐시
이미 처리한 프레임의 시각 key·value를 저장해 새 프레임이 들어올 때 기존 프레임을 다시 인코딩하지 않도록 하는 추론 메모리입니다. 새 key·value만 뒤에 붙이므로 영상이 길어져도 디코딩 상태를 유지하면서 최신 장면을 반영할 수 있습니다.
교차 어텐션 캐시
이미 처리한 프레임의 시각 key·value를 저장해 새 프레임이 들어올 때 기존 프레임을 다시 인코딩하지 않도록 하는 추론 메모리입니다. 새 key·value만 뒤에 붙이므로 영상이 길어져도 디코딩 상태를 유지하면서 최신 장면을 반영할 수 있습니다.
