RDP LoRA: 대형 언어 모델의 파라미터 효율적 적응을 위한 기하학 기반 레이어 식별

LLM의 모든 레이어를 균일하게 학습시키는 기존 LoRA 방식의 비효율성을 해결하기 위해, 기하학적 궤적 분석을 통해 학습이 꼭 필요한 핵심 레이어만 골라내는 새로운 방법론을 제시한다. 이를 통해 연산 자원을 대폭 절감하면서도 수학 추론 등 복잡한 작업에서 더 높은 성능을 달성할 수 있음을 입증했다.

Transformer 모델의 각 레이어는 입력 데이터를 처리하며 고차원 공간상에서 임베딩 벡터를 변화시킨다. 기존의 LoRA는 모든 레이어가 동일하게 중요하다고 가정하고 균일하게 가중치를 업데이트하지만, 실제로는 특정 레이어에서 급격한 의미론적 변화가 일어난다. 이 논문은 이러한 변화를 기하학적 곡선의 '꺾임'으로 해석한다.

곡선을 단순화할 때 중요한 굴곡점만 남기는 RDP 알고리즘을 임베딩 벡터의 흐름에 적용하면, 정보의 손실 없이 전체적인 구조를 유지하는 핵심 레이어들을 찾아낼 수 있다. 이는 마치 복잡한 해안선을 몇 개의 직선으로 요약할 때 꼭 필요한 지점을 선택하는 것과 같은 원리이다.

결과적으로 모델 전체를 수정하는 대신, 정보의 병목 현상이 발생하거나 개념적 전환이 일어나는 '기하학적 피벗' 레이어에만 학습 역량을 집중함으로써 더 적은 파라미터로도 모델의 추론 능력을 효과적으로 개선할 수 있게 된다.

모델의 L개 레이어에서 생성되는 은닉 표현 V = {v1, v2, ..., vL}을 고차원 공간상의 이산적인 기하학적 곡선으로 간주한다. RDP 알고리즘을 적용하여 양 끝점을 잇는 기준선에서 유클리드 거리가 임계값 ϵ을 초과하는 지점을 구조적 피벗으로 마킹하고 이를 재귀적으로 수행하여 핵심 레이어 집합을 추출한다.

단일 임계값의 한계를 극복하기 위해 멀티 스케일 분석을 도입한다. 목표하는 레이어 개수 t에 따라 최소 임계값 ϵt를 자동으로 계산하는 [ϵt = min{ϵ | |RDP(T, ϵ)| ≤ t}] 공식을 사용하며, 다양한 해상도에서 반복적으로 선택되는 레이어에 더 높은 가중치를 부여하는 통계적 투표 방식을 활용한다.

최종적으로 구조적 중요도 지수 Il을 산출한다. 이는 RDP 중요도 점수와 레이어 간 표현 변화율(Velocity)을 결합한 값으로, [Il = β · norm(ωRDP(l)) + (1 - β) · norm(Vel(l))] 식을 통해 계산된다. 이 지수가 높은 상위 K개 레이어에만 LoRA 가중치를 할당하여 학습을 진행한다.

Qwen3-8B-Base 모델을 대상으로 MMLU-Math 벤치마크에서 실험한 결과, RDP로 선택된 13개 레이어만 학습시킨 'Geometry-Selected Sparse LoRA'가 81.67%를 기록했다. 이는 아무런 튜닝을 하지 않은 베이스 모델(74.25%)은 물론, 36개 전체 레이어를 학습시킨 Full LoRA(79.32%)보다 약 2.35%p 높은 성능이다.

무작위로 13개 레이어를 골라 학습시킨 경우(75.56%)나 단순히 특정 구간(Reasoning Band) 전체를 학습시킨 경우(78.10%)보다 월등히 앞선 결과를 보였다. 이는 단순히 레이어의 개수나 위치보다, 모델 내부의 기하학적 구조에 기반한 레이어 식별이 성능 향상에 결정적인 역할을 함을 시사한다.

Qwen3-14B, DeepSeek-LLM-7B 등 다양한 아키텍처와 규모의 모델에서도 일관되게 Full LoRA와 대등하거나 이를 능가하는 성능을 보이며 방법론의 범용성을 입증했다. 특히 모델 규모가 커질수록 기하학적 중요도에 따른 가중치 할당의 효율성이 더욱 두드러지는 경향을 확인했다.

본 연구는 Transformer의 은닉 상태가 레이어를 거치며 형성하는 '매니폴드 궤적'의 곡률이 레이어의 중요도와 직결된다는 가설에서 출발한다. RDP 알고리즘은 본래 2D/3D 폴리라인 단순화용이지만, 유클리드 거리 기반의 수식을 사용하므로 768차원 이상의 고차원 임베딩 공간에서도 수정 없이 작동하는 '차원 불가지론(Dimension-agnostic)' 특성을 갖는다.

레이어별 표현을 단일 벡터로 요약하기 위해 단순 평균(Mean pooling) 대신 마지막 토큰의 어텐션 가중치를 활용한 'Attention-Weighted Projection'을 사용한다. 이는 모델이 특정 깊이에서 어떤 컨텍스트 요소에 집중하는지를 더 정확하게 반영한다. 또한 Savitzky-Golay 필터를 적용하여 레이어 간 전이에서 발생하는 미세한 노이즈를 제거함으로써 구조적 신호의 안정성을 확보했다.

학습 과정에서는 선택된 피벗 레이어들에만 LoRA 어댑터를 부착하며, 실험 결과 레이어별로 가중치를 다르게 주는 것보다 최적의 레이어를 선택한 뒤 균일한 용량을 할당하는 것이 성능 안정성 측면에서 더 유리함을 발견했다. 이는 레이어 선택이 양적인 최적화보다 질적인 식별 문제임을 시사한다.

다양한 모델 규모와 아키텍처에서 검증되었으나, 레이어 선택을 위한 최적의 하이퍼파라미터(K값 등) 설정이 모든 작업에서 전역적 최적해임을 보장하지는 않는다. 또한 현재는 정적인 레이어 선택 방식에 집중하고 있어, 입력 데이터의 특성에 따라 실시간으로 레이어를 가변하는 동적 적응 방식에 대한 탐구는 향후 과제로 남아있다.