parq
조각별 아핀 정규화 양자화
TorchAO에서 새롭게 제안한 옵티마이저 기반의 QAT 알고리즘으로, 3비트 이하의 초저비트 양자화에 최적화되어 있다. 가중치를 양자화 그리드에 더 고르게 분산시키는 '신축 탄성 양자화' 함수를 사용하여, 모델 코드 수정 없이 옵티마이저 단계에서 효율적인 경량화를 구현한다.
조각별 아핀 정규화 양자화
TorchAO에서 새롭게 제안한 옵티마이저 기반의 QAT 알고리즘으로, 3비트 이하의 초저비트 양자화에 최적화되어 있다. 가중치를 양자화 그리드에 더 고르게 분산시키는 '신축 탄성 양자화' 함수를 사용하여, 모델 코드 수정 없이 옵티마이저 단계에서 효율적인 경량화를 구현한다.
