Drop-Then-Recovery: 비전-언어-행동 모델의 구조적 중복성 분석

비전-언어-행동(VLA) 모델은 사전학습된 대형 언어 백본을 그대로 물려받아 로봇 조작을 수행하는데, 이 논문은 그 언어 구성요소가 실제 제어에 불필요하게 큰 비중을 차지할 수 있음을 실험적으로 검증했다. 모델을 경량화하면서도 동일한 학습 예산 하에서 더 많은 업데이트를 수행할 수 있어 실무적인 학습 효율과 배포 속도를 동시에 개선할 수 있는 가능성을 제시한다.

VLA 모델은 vision encoder, language backbone, 그리고 action head로 구성된 다중 경로 아키텍처이며 각 경로는 잔차 연결이 있는 트랜스포머 블록의 스택으로 구성된다. 짧고 템플릿화된 지시문이 주요 입력인 표준 조작 벤치마크에서는 대규모 언어 백본의 고용량이 실제 제어에 필요하지 않을 가능성이 존재한다는 점이 출발점이다. 이 문제는 단순히 파라미터 수로만 판단할 수 없으며 제거 후 복구 가능한지 여부로 중복성을 정의해야 폐쇄 루프 제어의 민감도를 올바르게 평가할 수 있다.

먼저 연구진은 블록 제거를 구조적 탐침으로 삼아 Drop-Then-Recovery(DTR) 프로토콜을 도입했다. 이 프로토콜은 중요도 지표 I(B_i)에 따라 제거할 블록 집합을 선정한 뒤 해당 블록들을 물리적으로 제거하고 남은 모델을 action prediction loss를 최소화하도록 fine-tuning하여 제거한 용량의 필요성을 측정한다. GateProbe는 각 블록의 잔차 기여 F_i(h_{i-1})와 downstream gradient ∂L/∂h_i의 내적을 이용해 가상 게이트 α_i에 대한 손실 민감도를 추정하며, 이 값의 기대 절대치를 블록 중요도로 사용하여 복구 가능성이 높은 블록을 선별한다.

다양한 시뮬레이션 벤치마크와 네 가지 대표적 VLA 아키텍처에서 실험한 결과 언어 백본은 비대칭적으로 높은 중복성을 보였다. LIBERO에서는 OpenVLA-OFT의 언어 블록 절반 제거 후 복구 fine-tuning으로 성공률이 95.0%에서 98.3%로 향상되었고 특정 경우에는 단 두 개의 언어 블록만으로도 baseline 수준의 성능을 회복했다. GateProbe는 공격적인 블록 제거 설정에서 다른 정적 지표(CosSim, Magnitude, PPL 등)나 일부 기울기 기반 지표보다 일관되게 높은 복구 성능을 예측했으며 실세계 로봇 실험에서도 시뮬레이션과 유사한 경향을 보였다.

전체 아키텍처는 vision encoder, language backbone, action head로 이루어지며 각 경로는 잔차 연결이 포함된 트랜스포머 블록 스택으로 구성된다. 블록 제거는 잔차 연결 단축(h_i = h_{i-1})과 해당 블록의 파라미터 θ_i 폐기를 통해 실제 FLOPs와 메모리, 레이턴시를 비례적으로 감소시킨다. GateProbe는 각 블록에 가상 스칼라 게이트 α_i를 도입한 가상의 변형을 고려한 뒤 ∂L/∂α_i|{α_i=1} = ⟨∂L/∂h_i, F_i(h{i-1})⟩ 식을 이용해 손실에 대한 민감도를 계산한다. 이 연산은 순전파 시 캐시된 hidden state로부터 F_i를 얻고 역전파 시 ∂L/∂h_i를 획득하여 한 번의 순전파·역전파로 비용 효율적으로 계산된다. 실험에서는 Drop Half, Keep 2 같은 고정 간섭 전략과 GateProbe 기반 선택을 비교하였고, whole-block dropping이 MHA 또는 MLP 서브레이어만 제거하는 것보다 압축 대비 성능이 우수한 경향을 보였다.

논문은 표준 조작 벤치마크(LIBERO 등)가 짧고 템플릿화된 지시문을 다루는 경우가 많아 언어 백본의 중복성이 과장되어 보일 수 있음을 명시했다. 제거된 언어 블록은 훈련 조건과 유사한 환경에서는 복구가 잘 되지만 조명 변화나 물리적 교란 같은 OOD 조건에서는 견고성이 저하되어 실제 배포에서 성능 손실 위험이 존재한다. 따라서 본 연구의 결과는 현재 사용되는 벤치마크의 한계와 함께 해석되어야 하며 더 복잡한 언어적 조합과 강한 OOD 교란을 포함하는 벤치마크가 필요하다고 결론지었다.