kvarn
KVarN
KVarN은 Huawei가 제안한 variance-normalized 방식의 KV 캐시 포맷으로, 캐시 값의 분산을 정규화해 낮은 비트 표현에서 품질 손실을 줄인다. BeeLlama 구현에서는 KVarN 포맷을 qN 형태로 도입해 표준 양자화와 비교 가능한 품질을 보였다. 벤치마크에서 KVarN은 Qwen에서 BF16에 근접한 median KLD를 보이는 고가치 선택지로 평가됐다.
KVarN
KVarN은 Huawei가 제안한 variance-normalized 방식의 KV 캐시 포맷으로, 캐시 값의 분산을 정규화해 낮은 비트 표현에서 품질 손실을 줄인다. BeeLlama 구현에서는 KVarN 포맷을 qN 형태로 도입해 표준 양자화와 비교 가능한 품질을 보였다. 벤치마크에서 KVarN은 Qwen에서 BF16에 근접한 median KLD를 보이는 고가치 선택지로 평가됐다.
