TL;DR
이 게시물은 Robbyant가 LingBot-VLA 2.0을 오픈소스로 공개하면서 행동 표현 설계가 전체 성능에 결정적 영향을 미쳤음을 강조하고 있다. 보고서의 핵심 수치는 절대 목표 대신 상대 관절 행동을 출력하도록 정책을 바꾸자 평균 성공률이 33.7%에서 55.0%로 21.3포인트 상승한 점이며 이 단일 변경이 다른 아키텍처 개선보다 더 큰 효과를 냈다. 시스템은 55차원 정형화 행동 벡터, 약 60,000시간의 사전학습 데이터, 토큰 수준 MoE와 이중 질의 증류를 결합했으나 자체 벤치 GM-100에서 일부 작업의 성공률은 낮고 OOD 민감성도 확인되어 독립적인 재현과 외부 평가가 필요하다.
커뮤니티 반응
커뮤니티 반응은 공개와 아블레이션 수치에 주목하면서 환영하는 분위기와 신중한 해석을 요구하는 목소리가 혼재되어 있다. 많은 댓글이 상대 관절 행동의 단순한 표현 변경이 큰 성능 차이를 낸 사실을 긍정적으로 받아들였고 공개 코드로 독립 검증이 가능하다는 점을 높게 평가했다. 동시에 GM-100이 프로젝트 관련자들이 관여한 자체 벤치마크라는 점과 특정 작업에서의 낮은 성공률이 신뢰도 제한 요소로 지적되며 외부 평가의 필요성이 반복해서 제기되었다.
주요 논점
상대 관절 행동 표현 전환이 조작 정책 성능을 가장 크게 개선했다는 주장은 강한 근거를 가진다. 원문에서 평균 성공률이 33.7%에서 55.0%로 21.3포인트 상승한 아블레이션 수치가 직접 제시되었고 이 단일 변화가 아키텍처 변경보다 더 큰 영향이었다고 보고됐다. 따라서 조작 정책 설계에서 액션 스페이스를 우선적으로 재설계해야 한다는 권고는 타당하며 다수의 실무자들이 이를 지지하고 있다.
대규모 사전학습(60,000시간)과 토큰 수준 MoE, 이중 질의 증류 같은 복합적 아키텍처는 잠재적 이득을 제공하지만 행동 표현 효과만큼 명확한 기여도로 입증되지는 않았다. 원문은 이러한 요소들을 포함한 종합 설계를 제시했고 일부 벤치에서는 성능 향상을 보였으나 아블레이션 결과에서 상대 표현의 영향이 더 컸다. 따라서 아키텍처적 요소들은 보완적 역할을 할 가능성이 크며 추가 분리 실험이 필요하다.
GM-100이 내부 벤치이며 프로젝트 리더가 공동저자라는 점은 결과 해석에 신중을 요구한다는 주장이 합리적이다. 데이터와 코드가 공개되어 있어 독립적인 실험자가 동일 셋업에서 재현 가능하지만, 제시된 수치만으로 보편적 우위를 확정하기는 어렵다. 독립 평가 결과가 나오기 전까지는 내부 평가 결과를 내부적 성과로 간주하는 것이 적절하다.
합의점 vs 논쟁점
합의점
- 상대 관절 행동 표현으로 출력 공간을 바꾸는 것이 조작 정책 성능에 큰 영향을 미쳤다는 사실에 대체로 동의했다.
- 코드와 가중치가 공개되어 있어 외부에서 동일 설정으로 재현할 수 있다는 점은 긍정적으로 수용되었다.
- GM-100이 내부 벤치임을 고려해 독립적 재현과 외부 평가가 필요하다는 점에서 의견이 일치했다.
논쟁점
- 상대 관절 행동 외에 토큰 수준 MoE나 이중 질의 증류가 실제 실무에서 어느 정도의 추가 이득을 주는지에 대해서는 의견이 갈렸다.
- GM-100의 결과를 일반화해 다른 로봇 플랫폼에서 동일한 이득을 얻을 수 있는지에 대해 확신이 부족하다.
- 사전학습에 포함된 1인칭 인간 동영상의 기여도와 그 방식이 실제 로봇 조작 일반화에 어느 정도 영향을 주는지에 대해 논쟁이 있었다.
실용적 조언
- 조작 정책을 설계할 때 우선 액션 표현을 현재 관절 대비 델타를 출력하는 상대 관절 행동으로 전환해 성능 변화를 확인할 것을 권장한다. 이 변경은 입력으로 현재 관절값과 원하는 변화량을 사용하고 출력으로 각 관절의 델타값을 생성하는 구조로 구현하면 된다. 아블레이션에서 다른 아키텍처 변경보다 더 큰 효과를 보였으므로 모델 확장 전에 먼저 시도할 가치가 있다.
- 공개된 코드와 가중치를 이용해 자체 하드웨어에서 독립 평가를 수행할 것을 권장한다. GM-100은 내부 벤치이므로 동일 과제와 OOD조건(예: 포즈 교란 ±10cm, 미확인 객체 교체)에서 재현성을 확인하면 실제 성능 한계와 OOD 민감도를 파악할 수 있다.
- 액션 스페이스 설계와 증류 파이프라인을 검토할 때 정형화된 행동 벡터의 인덱스 정렬과 전문가 라우팅 규칙을 우선 점검하라. 정형화된 차원 매핑이 잘못되면 멀티-임베디드 일반화가 깨지고, MoE 라우터 설정과 증류 쿼리(현재/미래)의 손실 조합이 장기 정밀 배치 성능에 직접적인 영향을 미친다.
섹션별 상세
용어 해설
- Relative Joint Actions
- — 로봇 조작 정책에서 목표를 절대 좌표 대신 현재 관절 상태 대비 '상대적 관절 동작'으로 표현하는 방식이다. 입력으로 현재 관절값과 원하는 변화량을 사용하며 출력은 각 관절에 대한 델타값으로 정책이 학습된다. 이 방식은 관절 초기화 편차와 다양한 로봇 형태에 대한 일반화를 개선하는 데 중요하다.
- Canonical Action Vector
- — 여러 로봇 형태를 단일 정책으로 다루기 위해 공통 차원과 의미를 갖는 행동 공간으로 모든 제어 변수를 정렬한 55차원 벡터 설계이다. 팔 관절·엔드이펙터·그립퍼·손·허리·머리·이동 기반을 포함해 다양한 DoF를 같은 인덱스 체계로 표준화한다. 이렇게 하면 단일 정책이 8-DoF 단일팔부터 32-DoF 휴머노이드까지 공통 출력으로 작동할 수 있다.
- Token-level MoE
- — 행동 시퀀스의 각 토큰(시점 혹은 액션 서브유닛)에 대해 전문가 라우팅을 수행하는 Mixture-of-Experts 구조이다. 입력 토큰별로 라우터가 전문가를 선택하고 선택된 전문가만 계산을 수행해 계산 효율과 전문가 다양성을 확보한다. 로봇 행동생성에서 연속적 제어 신호를 효율적으로 모델링하는 데 사용된다.
- Dual-Query Distillation
- — 현재 시점과 미래 시점의 두 가지 질의를 사용해 학생 정책을 교사로부터 동시에 증류하는 방식이다. 현재 쿼리로 즉시 행동을 맞추고 미래 쿼리로 장기 행동의 예측을 보정해 장기 계획 성능을 끌어올린다. 이 기법은 롱호라이즌 작업에서 마지막 정밀 배치 실패를 줄이려는 목적과 직접 연결된다.
- Egocentric Human Video Pretraining
- — 로봇 행동 정책에 인간의 1인칭 시점 비디오를 대규모로 포함해 인간의 조작 패턴과 시각-동작 연관을 학습시키는 사전학습 절차이다. 입력으로 비디오 프레임과 시간적 맥락을 사용해 시각-운동 매핑을 강화하며 총 10,000시간 규모 데이터가 사용된다고 보고됐다. 이는 특히 인간 유사 조작이나 손-도구 상호작용 일반화에 영향을 미친다.
언급된 도구
코드와 모델 가중치 공개 저장소
모델 가중치 및 관련 아티팩트 배포
인과적 비디오 교사 모델로 동영상 기반 행동 증류에 사용된 교사 네트워크
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.