양자화 모델
양자화 모델은 원래 가중치의 정밀도를 낮춰 메모리 사용량과 추론 부담을 줄인 모델이다. 글에서는 기존 quant에서 사용할 수 있는 훈련된 MTP head를 분리해 다른 모델에 결합했다.
