FEATCAL: Post-Merging 모델의 Feature Calibration

모델 병합 후에도 성능 차이가 남는 문제를 feature drift 관점에서 분석한다. FEATCAL은 드리프트를 레이어 단위로 추적하고 forward-order로 보정해 merged 모델의 피처 분포를 task expert의 피처 분포에 가깝게 조정한다. gradient descent나 추가 모듈 없이도 빠르게 폐쇄형 해를 통해 가중치를 업데이트하며,Inference 속도를 유지한다.

1. 병합 후 드리프트는 레이어별 로컬 매칭과 앞선 레이어의 전파로 구성된다. 2) 각 레이어에서의 로컬 매칭은 downstream으로 전파되어 최종 피처 드리프트를 형성한다. 3) FEATCAL은 이 드리프트를 앞에서부터 차례로 보정하기 위해, 각 레이어의 선형 모듈에 대해 타깃 신호(Xtgt)와 앵커(Wanc)를 이용한 폐쇄형 회귀 문제를 구성한다. 4) 이 보정은 추가 모듈 없이 원래 merged 가중치를 유지하되, deployed 피처 분포를 전문가 피처에 가깝게 정렬한다.

1. Basic Calibration Objective: 각 레이어의 선형 모듈에 대해 W⋆를 최소화하는 목적은 ∥W Xcal − Wi Xexp∥²_F + λ∥W − Wmer∥²_F 이다. 2) Target Interpolation: X tgt = α Xexp + (1−α) Xcal로 로컬 드리프트를 과도하게 대응하는 것을 방지한다. 3) Anchor Regularization: Wanc = ρ Wmer + (1−ρ) Wbase로 merged/base를 함께 고려한다. 4) Closed-Form Solution: W⋆ = [∑i ωi Wi Ci + λ Wanc] [∑i ωi Gi + λ Id]⁻¹으로 모듈별 업데이트를 구한다. 5) Bias/LN 업데이트: 필요 시 bias와 LayerNorm affine 파라미터를 보정한다. 6) Forward-Order Calibration Algorithm: Layer별로 feature snapshot을 캐시한 뒤, 해당 layer의 모듈에 대해 위의 objective를 적용한다.

주요 벤치마크에서 FEATCAL은 Surgery/ProbSurgery를 상회한다. CLIP-ViT-B/32 8-task TA에서 FEATCAL은 85.5%의 평균 정확도에 도달했고, Surgery 77.0%, ProbSurgery 78.8%를 능가한다. FLAN-T5-base(GLUE)에서 FEATCAL은 85.2%로 Surgery 83.7%, ProbSurgery 82.2%를 상회한다. CLIP-ViT-B/32 TA에서 8-example 버전은 82.9%, 256-example 버전은 약 53초 소요로 측정되며, 두 baselines보다 약 4배 빠른 calibration 비용을 보인다. 8-task TA에서 B/32 기준 업스트림 평균은 66.3/67.5/82.7/84.5에서 83.2/85.5/88.1/88.8로 증가하는 등, Task Arithmetic 전 영역에서 일관된 개선을 보인다. MergeBench 등 다른 설정에서도 TA+FEATCAL의 평균 점수 향상이 관찰된다(예: 3B/8B LLM에서 평균 +2.0/+2.3 포인트 상승). corrupted-calibration 실험에서 FEATCAL은 깨끗한 데이터 대비 평균 78.0%로 가장 강한 robust성을 보이며, 71.5~71.6%인 Surgery/ProbSurgery 대비 우수하다. Calibrated 피처의 cosine 유사도는 전문가 피처에 더 가까워지는 경향이 있으며, 8-task TA 설정의 sample efficiency는 8-example에서 82.9%까지 도달한다. 구현 측면에서 FEATCAL은 gradient descent 없이 폐쇄형 해를 제공하며, 256 샘플에서도 53초의-calibration 시간과 낮은 GPU 에너지 소모를 달성한다.

FEATCAL은 layer별 특성 드리프트를 다루는 이론적 분석에 기초해, forward-order로 각 레이어의 linear 모듈을 정규화된 회귀 문제로 업데이트한다. 모듈 입력의 샘플별 통계 Gi, Ci를 사용해 W를 해석적으로 업데이트하고, α를 통한 타깃 인터폴레이션과 ρ를 통한 앵커 정규화로 신호 대 잡음 비를 조절한다. 최종적으로 W⋆=[∑i ωi Wi Ci + λ Wanc] [∑i ωi Gi + λ Id]⁻¹의 폐쇄형 해를 얻고, bias와 LayerNorm affine 업데이트를 추가적으로 수행할 수 있다. FEATCAL의 단일 layer 로컬 objective는 모듈 입력 Xcal_i와 타깃 X tgt_i를 기반으로 계산되며, 이렇게 얻은 모듈 업데이트는 layer별 저장된 파라미터로 한 번에 반영된다.

A. 계산의 범위가 CLIP 및 FLAN-T5에 집중되어 있으며, 다른 modality나 더 큰 모델로의 일반화는 추가 연구가 필요하다. B. 하이퍼파라미터 λ, α, ρ의 선택은 개발/검증 세트에서의 검색을 필요로 한다. C. calibration 데이터에 의존하므로 calibration 데이터가 부족하면 성능이 제한될 수 있다.