본문으로 건너뛰기

selective-quantization

선택적 양자화

모델의 모든 레이어를 동일한 비트로 양자화하지 않고, 오차에 민감한 특정 레이어는 고정밀도(BF16 등)로 유지하여 정확도 손실을 최소화하는 전략이다.