NanoQuant: LLM의 서브 1비트 후처리 양자화

새로운 점

NanoQuant은 후처리 환경에서 저순위 이진 인수분해와 LB-ADMM 기반의 정교한 초기화로 1비트·서브-1비트 압축을 실현한 점이 새롭다. 특히 전역 KFAC 전치와 순차 블록 재구성, 마지막 스케일 정렬의 계층적 설계가 소량 보정 데이터로도 QAT 수준의 성능에 근접하게 한다. 단일 H100으로 70B 모델을 처리한 실행 효율 사례가 실용적 신호로 작용한다.

핵심 메커니즘

NanoQuant의 핵심 표현은 가중치 행렬을 두 개의 이진 잠재 행렬과 두 스케일 벡터로 분해하는 것이다. 이를 수식으로 쓰면 $W \approx s_1 \odot (U^{\pm1} {V^{\pm1}}^{T}) \odot s_2^{T}$이며 여기서 $U^{\pm1}$과 $V^{\pm1}$은 각 원소가 ±1인 이진 행렬, $s_1,s_2$는 층별 스케일 벡터다. 변수별로 보면 입력 차원과 출력 차원에 각각 r열의 이진 잠재 벡터를 두므로 이진 원소 수는 $r(d_{out}+d_{in})$이고 스케일은 $(d_{out}+d_{in})$개의 부동소수점 값이므로, 랭크 r을 적절히 고르면 전체 실효 저장비가 1비트 이하가 된다. 구현 흐름은 보정 단계에서 KFAC 기반 전치로 목표 행렬을 전처리하고 LB-ADMM으로 연속 잠재 변수 초기화를 얻은 뒤 sign과 STE로 미세 조정하고 마지막에 모든 이진 값을 고정한 채 스케일만 글로벌 최적화해 출력 분포 정합을 복원하는 형태다.

핵심 수치

• 저장 효율: 24× (70B → 5.75 GB)- 원문 결론과 결과에서 보고한 압축 비율과 최종 파일 크기
• 보정 데이터: 128 WikiText-2 시퀀스 (~0.26M 토큰)- 본문 보정 설정
• 압축 시간: 13 GPU 시간 on single NVIDIA H100- 70B 모델 전체 파이프라인 실행 시간
• sign-flip 비율: <7% across layers- LB-ADMM 초기화 안정성 지표