Transformer Block Removal
트랜스포머 블록 제거
트랜스포머 모델에서 전체 블록 단위를 물리적으로 제거하는 기법으로, 남은 네트워크를 조밀한(dense) 형태로 유지하여 FLOPs와 메모리를 줄이고 하드웨어 독립적 속도 향상을 가능하게 한다. 본 논문 맥락에서는 VLA 모델의 구성 요소별(vision, language, action) 블록을 선택적으로 제거한 뒤 fine-tuning으로 복구 가능성을 측정하는 핵심 조작이다.
트랜스포머 블록 제거
트랜스포머 모델에서 전체 블록 단위를 물리적으로 제거하는 기법으로, 남은 네트워크를 조밀한(dense) 형태로 유지하여 FLOPs와 메모리를 줄이고 하드웨어 독립적 속도 향상을 가능하게 한다. 본 논문 맥락에서는 VLA 모델의 구성 요소별(vision, language, action) 블록을 선택적으로 제거한 뒤 fine-tuning으로 복구 가능성을 측정하는 핵심 조작이다.
