본문으로 건너뛰기

AQLM

AQLM 양자화

가중치를 낮은 비트 수로 표현해 모델 저장 공간과 메모리 사용량을 줄이는 양자화 계열입니다. 글의 2-bit 실험에서는 6개 레이어 부분집합의 퍼플렉서티가 9.4% 증가해 사전 등록 품질 기준을 통과하지 못했습니다.