LLMs를 노이즈 채널로 보는 관점: Shannon-Hartley 정리에 기초한 모델 용량과 스케일링 법칙

왜 중요한가

대형 언어 모델의 성능은 데이터와 모델 간의 신호 대 잡음비(SNR)에 의해 결정된다. 기존의 monotonic scaling 법칙은 카도치한 현상인 손실 베이스와 양자화로 인한 저하를 설명하지 못한다. Shannon Scaling Law는 모델 크기(N)와 학습 토큰 수(D)의 상호작용에서 발생하는 비선형 손실 패턴을 설명하고, SNR가 충분하지 않을 때는 규모 확장이 오히려 성능 저하를 유발할 수 있음을 보인다. 이로써 정보 밀도와 SNR 최적화를 중점에 두는 설계 방향이 필요하다는 시사점을 제공한다.

핵심 기여

Shannon Scaling Law 도입

LLM의 능력 CLLM을 채널 용량에 비유하고, 모델 크기 N을 bandwidth, 토큰 수 D를 signal로 매핑하며 데이터/모델 간섭/불가역 잡음(e, c(DN)γ, dDδ)을 잡음으로 모델링하는 통합 식 L(N, D, P) 형태의 법칙을 제시한다. 이로써 N, D, 노이즈의 상호작용이 성능에 미치는 영향을 정량화한다.

Loss의 비모노토닉(U-형) 해석

SNR이 낮아질 때 N과 D를 확장하면 손실이 감소하는 전통적 경향이 깨지고, 손실 베이스가 형성되어 결국 증가하는 구간이 생김을 보인다. 이는 모델 규모 확장이 반드시 이득이 아님을 설명한다.

Gaussian noise, quantization, SFT 등 perturbation 하의 강건성 입증

Pythia와 OLMo2를 대상으로 Gaussian noise, quantization(GPTQ 4/3/2-bit), SFT를 적용하여, Shannon Scaling Law이 대부분의 perturbation에서 우수한 R²를 기록하고(평균 R² > 0.95, Pythia/OLMo2 양쪽), 기존 바운드보다 일관적이고 안정적인 예측력을 보여준다.

Extrapolation 능력 및 단일/다중 축 예측

≤6.9B Pythia 모델과 ≤180B 토큰으로 학습하여 unseen 12B 모델까지 최대 307B 토큰 구간을 예측하는 능력을 보이고, joint (N, D) extrapolation에서도 전체 Shannon Law가 우수한 성능을 보인다(예: R²=0.847).

파라미터 효율화 및 X 확장

9파라미터 풀 버전과 6파라미터 간소화 버전이 각각 적절히 작동하며, perturbation 포함 확장(X)을 도입해 고노이즈 환경에서도 견고한 적합도를 유지한다.

기술적 차별점 및 현장 적합성

prior work 대비 D-N 상호작용 노이즈(c(DN)γ) 포함으로 노이즈 dominated regime에서의 비선형 손실 곡선을 설명하고, 고SNR 특성과 저SNR 특성을 하나의 통일된 식으로 연결한다.

핵심 아이디어 이해하기

출발점: 기존 스케일 법칙은 monotonic한 손실 감소를 전제로 하지만, 데이터 노이즈와 모델 간섭이 커지는 상황에서 더 큰 N/D가 성능을 악화시킬 수 있다. 해결 원리: Shannon-Hartley 채널 용량의 구조를 차용해 밴드폭(N), 신호(D), 잡음(데이터 노이즈, 모델 상호작용 노이즈, 불가역 잡음)을 하나의 식으로 결합한다. 달라지는 점: 노이즈 강도에 따라 α, β, γ, δ 등의 지수가 바뀌며, δ > β가 지속적으로 나타나 토큰 증가가 손실을 악화시키는 경향이 생긴다. 실무적 시사점: 고SNR 환경에서는 전통적 monotonic Scaling과 유사하게 작동하나, 저SNR 환경이나 고정밀도 감소 상황에서는 손실 베이스가 형성되므로 모델 규모와 데이터 양의 조합을 SNR 중심으로 재조정해야 한다. 이로써 단일 법칙으로 monotonic과 비모노토닉 현상을 모두 설명할 수 있다.

방법론

Shannon-Hartley 이론을 LLM에 적용해 CLLM을 정의하고, bandwidth를 N, signal을 D로 매핑한다. 2) 잡음의 구성요소로 데이터-Induced Noise dDδ, Model-Interaction Noise c(DN)γ, Irreducible Noise e를 도입한다. 3) 손실 L(N, D)와 CLLM의 역관계 L = 1/CLLM으로 설정해 학습 곡선의 모듈화된 해석을 가능케 한다. 4) 9파라미터 풀 법칙과 6파라미터 간소화 버전을 제시해 데이터/토큰 축에 대한 일반화 성능을 비교한다. 5) Gaussian noise, SFT, quantization 등 다양한 perturbation에 대해 벤치마크를 수행하고 R²를 통해 적합도를 측정한다. 6) X 확장으로 perturbation의 외부 노이즈를 포함시키는 확장형(Cext)을 제시하고 일관된 성능을 확인한다.

주요 결과

4.1 Gaussian Noise: Pythia에서 평균 R² 0.9613 ± 0.03, OLMo2에서 0.9585 ± 0.06으로 상회하는 성능을 기록했다. 4.2 SFT: GSM8K, SiQA, StarCoder에서 각각 R²가 0.936, 0.916, 0.937로 높은 예측력을 보였다. 4.3 Quantization: 4/3/2-bit에서 R²가 0.9824, 0.9788, 0.9782로 높은 적합도를 보이며, monotonic 계열은 2-bit에서 크게 무너진다. 5.2 Extrapolation: Progressive Token Extrapolation에서 Shannon(9p) 0.611/0.781/0.941, Shannon-Simpl(6p) 0.768/0.753/0.945로 우수. 5.2 Model Extrapolation: k=4에서 Shannon(9p) 0.521, 0.787, 0.845; 5.2 Joint Extrapolation: Shannon 0.590/0.847/0.828로 0.847 유지. 5.3 Exponent: α, β, γ, δ의 추정치를 제시하며, 노이즈가 커질수록 γ>α로 역전되는 SNR 의존성을 확인. 5.4 Model-N interaction Noise Term의 필요성: 10 dB에서 c(DN)γ가 필요함이 확인되었다. 5.5 X 확장: X를 포함한 확장형에서도 평균 R²가 0.9602±0.03으로 유지되며 고노이즈 구간에서 성능이 향상된다.

기술 상세

3.1 Shannon Scaling Law의 수식적 정의: CLLM = aN^α log2(1 + [bD^β] / [c(DN)^γ + dD^δ + e]). 3.2 구성 요소의 해석: 밴드폭(B) ≈ 모델 크기 N, 신호 S ≈ 토큰 수 D, 잡음은 데이터-Induced Noise(dD^δ), 모델 간섭 잡음(c(DN)^γ), 무슨관계 없는 고정 잡음 e로 나뉜다. 3.3 손실과 용량의 관계: L(N, D) = 1/CLLM. 4.1 Gaussian Noise 실험 설계: wikitext2를 기준으로 손실 컨투어를 관찰하고 R²로 피팅. 4.2 SFT 및 4.3 Quantization에서 Perturbation-aware 법칙과의 비교. 5.2 Extrapolation은 j(토큰)이나 k(모델) 축으로 확대될 때의 예측력을 제시. 5.3 지수들의 적합값과 perturbation 강도에 따른 역전 현상 분석. 5.4 D-N Interaction Noise Term의 필요성 확인.

실무 활용

Shannon Scaling Law의 프레임은 LLM 연구·실무에서 정보 밀도와 SNR를 최적화하는 의사결정에 활용될 수 있다. Perturbation이 존재하는 환경에서의 예측과 일반화 능력을 높이고, unseen 모델/토큰 구간으로의 예측을 가능하게 한다.

Perturbation가 존재하는 실제 서비스에서 모델/데이터 조합의 최적 포인트를 찾는 의사결정 지원
양자화/파인튜닝(SFT) 등 다양한 perturbation 상황에서의 성능 예측 및 위험 관리
새로운 모델 크기와 토큰 horizons에 대한 사전 예측으로 실험 비용 절감
joint N-D extrapolation을 위한 모델 선택과 예측 전략 수립

코드 공개 여부: 미확인

키워드

Shannon-Hartley theoremnoisy channelsignal-to-noise ratioLLMscaling lawsloss basinGaussian noisequantizationSFT

용어 해설

Shannon-Hartley 정리(Shannon-Hartley Theorem): — Shannon-Hartley 정리는 채널 대역폭과 신호-잡음비(SNR)로 채널 용량을 결정하는 정보 이론의 핵심 원리이다. 본 논문은 이를 LLM 학습의 용량-손실 관계를 설명하는 프레임으로 차용한다.
노이즈 채널(Noisy Channel): — 소스에서 전송기(transmitter)까지의 정보 전달 경로에 잡음이 포함되어 신호가 왜곡되는 시스템 모형이다. 본 논문은 LLM 학습을 이 노이즈 채널에 비유한다.
신호 대 잡음비(Signal-to-Noise Ratio): — SNR은 신호 파워와 잡음 파워의 비로, 본 논문은 데이터 토큰 수(D)와 모델 크기(N)의 상호작용에서 유효 학습 신호 대비 잡음 비율로 확장한다.
손실 베이스인(Loss Basin): — 손실 곡선이 모여드는 영역으로, 토큰 수(D)나 모델 크기(N)의 증가가 손실을 오히려 증가시키는 비모노토닉 구간을 형성하는 현상을 가리킨다.