LLM 최적화를 위한 양자화 및 가지치기 기법 가이드.

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

거대 언어 모델은 배포 시 막대한 VRAM을 요구하여 하드웨어 제약과 높은 추론 비용을 유발한다. 양자화는 가중치 정밀도를 낮춰 메모리 사용량을 줄이고, 가지치기는 불필요한 가중치나 구조를 제거하여 모델 크기를 물리적으로 축소한다. bitsandbytes, GPTQ, AWQ 등 양자화 기법과 SparseGPT, Wanda 같은 가지치기 기법은 모델 성능 저하를 최소화하면서 배포 효율을 극대화한다. 두 방식을 조합하면 단일 소비자용 GPU에서도 대형 모델을 구동할 수 있으며, 실제 서비스 환경에 맞는 기법 선택과 벤치마킹이 필수적이다.

섹션별 상세

대규모 언어 모델은 FP16 기준 70B 모델이 140GB VRAM을 점유하여 일반적인 인프라에서 배포가 불가능하다. 양자화는 가중치를 8비트나 4비트로 변환하여 정밀도를 낮추는 대신 메모리 점유율을 획기적으로 줄이고, 가지치기는 중요도가 낮은 가중치나 신경망 구조를 삭제하여 모델 파라미터 자체를 물리적으로 축소한다. bitsandbytes의 NF4나 AWQ 같은 기법을 적용하면 동일 모델을 35~40GB 수준으로 압축하여 단일 GPU에서도 구동이 가능하다. 이는 인프라 비용을 절감하고 추론 지연을 개선하여 상용 서비스의 경제성을 확보하는 핵심 전략이다.

python

bnb_config = BitsAndBytesConfig(
    load_in_4bit=True,
    bnb_4bit_quant_type="nf4",
    bnb_4bit_compute_dtype=torch.bfloat16,
    bnb_4bit_use_double_quant=True,
)

bitsandbytes를 사용하여 NF4 데이터 타입으로 4비트 양자화를 설정하는 코드이다.

bitsandbytes는 NF4 데이터 타입을 사용하여 별도의 오프라인 변환 없이 로드 시점에 4비트 양자화를 수행하며 QLoRA를 통한 파인튜닝을 지원한다. GPTQ는 2차 미분 정보인 헤시안 행렬을 활용해 층별 오차를 보정하며, AWQ는 활성화 값의 크기를 기반으로 중요한 가중치를 보호하여 품질 저하를 방지한다. AWQ는 특히 Marlin 커널과 결합 시 FP16 대비 1.6배 빠른 추론 속도를 보이며 현재 프로덕션 환경의 표준으로 자리 잡았다. 이러한 기법들은 모델의 배포 유연성을 높이고 하드웨어 제약을 극복하는 데 기여한다.

python

gptq_config = GPTQConfig(
    bits=4,
    dataset="c4",
    tokenizer=tokenizer,
    group_size=128,
    desc_act=False,
)

GPTQ를 사용하여 4비트 양자화 및 보정을 수행하기 위한 설정이다.

단순한 가중치 제거는 모델 성능을 급격히 저하시키지만, SparseGPT와 Wanda는 구조적 가지치기를 통해 이를 해결한다. SparseGPT는 층별 재구성 문제로 접근하여 가중치를 삭제하고 남은 가중치를 업데이트하며, Wanda는 가중치 크기와 입력 활성화 값의 곱을 기준으로 중요도를 평가하여 별도의 업데이트 없이 즉시 가지치기를 수행한다. 특히 NVIDIA GPU의 2:4 구조적 희소성을 활용하면 연산 건너뛰기가 가능해져 실제 추론 속도 향상을 얻을 수 있다. 이는 대형 모델의 연산 효율을 극대화하는 실질적인 방법이다.

python

quant_config = {
    "zero_point": True,
    "q_group_size": 128,
    "w_bit": 4,
    "version": "GEMM",
}

AWQ를 위한 양자화 설정으로, 비대칭 양자화와 그룹 크기를 지정한다.

양자화와 가지치기는 서로 다른 차원의 압축을 수행하므로 상호 보완적으로 결합 가능하다. 가지치기를 먼저 수행하여 불필요한 가중치를 제거한 뒤 양자화를 적용하면, 140GB 모델을 17~18GB 수준까지 줄여 소비자용 GPU에서도 구동할 수 있다. 순서가 중요한데, 가지치기 후 양자화를 수행해야 양자화 과정에서 가지치기로 인한 분포 변화를 보정할 수 있다. 서비스 목적에 따라 파인튜닝이 필요하면 bitsandbytes를, 고성능 추론이 우선이면 AWQ를 선택하는 전략적 접근이 필요하다.

bash

python llama.py meta-llama/Llama-3.1-8B-Instruct c4 \
--sparsity 0.5 \
--prunen 2 --prunem 4 \
--save llama-3.1-8b-sparsegpt-2-4

SparseGPT를 사용하여 2:4 구조적 희소성으로 모델을 가지치기하는 명령어이다.

용어 해설

양자화(Quantization): — 모델 가중치의 정밀도를 낮춰(예: 16비트→4비트) 메모리 사용량을 줄이고 연산 속도를 높이는 기법이다. 파라미터 수는 유지되나 데이터 표현 비트를 줄여 효율을 극대화한다.
가지치기(Pruning): — 모델의 중요도가 낮은 가중치나 신경망 구조를 물리적으로 제거하여 파라미터 수를 줄이는 기법이다. 불필요한 연결을 삭제하여 모델 크기를 직접적으로 축소한다.
헤시안 행렬(Hessian Matrix): — 손실 함수의 2차 미분값을 포함하는 행렬이다. GPTQ와 같은 기법에서 가중치 변경이 모델 성능에 미치는 영향을 계산하고 오차를 보정하는 데 활용된다.
구조적 희소성(Structured Sparsity): — 2:4 패턴처럼 특정 규칙에 따라 가중치를 제거하는 방식이다. GPU의 Sparse Tensor Core가 0인 가중치 연산을 건너뛸 수 있게 하여 실제 추론 속도 향상을 이끌어낸다.