imatrix-quantization

imatrix 양자화는 중요도 행렬 정보를 활용해 모델 가중치를 낮은 비트 형식으로 변환하는 방식이다. 단순 양자화보다 품질 손실을 줄이면서 GGUF 모델의 저장 공간과 메모리 사용량을 낮추는 목적이 있다.