Asymmetric Quantization
비대칭 양자화
저장되는 문서 임베딩만 int8 또는 binary로 낮은 정밀도로 변환하고, 실시간 생성되는 쿼리 임베딩은 더 높은 정밀도로 유지하는 압축 방식입니다. 쿼리 벡터는 저장하지 않고 검색 시 생성하므로 문서와 쿼리에 서로 다른 정밀도를 적용할 수 있습니다. NeoMME는 int8 쿼리와 binary 문서 조합에서 저장 공간을 255배 줄이면서 기준 nDCG@10의 95% 이상을 유지했습니다.
