DragMesh-2: 관절형 물체와의 물리적으로 타당한 Dexterous Hand-Object Interaction

관절형 물체를 다루는 dexterous manipulation은 손가락 다중 접촉 패턴을 통해 가능하지만, 대상 부품은 직접적으로 작동하지 않으며 접촉을 통해서만 동작이 유도된다. 기존 방법은 고정된 dynamics에 의존해 일반화에 취약했고, PICA 기반 DragMesh-2는 접촉 로봇학의 실제 환경에서의 강건성과 성공률을 개선한다.

단계적으로 설명한다. 1) 시작점: articulated-object 조작은 물체의 관절이 직접 제어되지 않고, 손–핸드 간의 지속적 접촉으로만 관절 움직임이 유도된다. 기존 방법은 객체 중심 생성이나 고정 동역학에 의존하여 접촉 다이나믹스를 충분히 다루지 못한다. 2) 이 논문의 해결 원리: DragMesh-2는 정책이 손만 제어하고, 대상 관절은 action 채널이 없어 손–핸드 접촉으로만 동작을 이끌어내는 손-물체 상호작용 프레임워크를 활용한다. 3) PICA의 도입: 물리 신호를 환경 보상 및 보조 손실로 주입하고, GLA 기반의 시간 의존 인코더로 최근 접촉 반응을 예측함으로써 접촉 상태의 변화에 Robust하게 학습한다. 4) 달라지는 점: 물리 신호 + 시간적 접촉 반응 모델의 결합으로, nominal damping에서 높은 성능을 확보하고, damping 변화에 따른 성능 저하를 완화한다. 5) 구현적 결과: 7개 객체에서 단순 replay나 기본 LSTM/Transformer 기반 정책 대비Robustness가 향상되며, 특히 ×4×4 강한 댐핑 하에서 평균 성공률이 크게 개선된다.

1. 전체 접근 방식 및 핵심 아이디어: DragMesh-2는 51-DoF SMPL-X 손으로 제어되는 hand-occlusion 환경에서, policy가 hand의 관절을 제어하고, target joint에는 action 채널이 없으며, 목표 관절의 동작은 hand–handle 접촉으로만 발생한다. 2) 핵심 메커니즘/알고리즘 상세: 관측은 손의 관절 위치/속도, 핸들 위치/자연, 핸들-손의 상대 기하, 대상 관절 상태 및 진행 스케일 등으로 구성되며, action은 51차원으로 손의 PD 타겟에 대한 증분 제어이다. PICA 신호는 (i) contact 유지, (ii) detachment 리스크, (iii) action boundary regularization, (iv) damping variation, (v) temporal contact response를 포함하는 보조 신호를 도입한다. 환경 보상은 Task progress 외에 이들 요소를 포함한다. 3) Prior work 대비 차별점: force/tactile 피드백이 없어도, 물리적 신호를 보조 학습으로 도입하고, temporal encoder를 통해 접촉 임상 상태를 예측하도록 학습한다. 4) 구현 및 학습 세부사항: PPO를 기반으로 하며, GLA(Gated Linear Attention)으로 과거 컨택 히스토리를 인코딩하고, auxiliary supervision으로 causal-window 상의 물리 신호를 예측한다. 5) 이론적 기반: Constrained RL의 원칙에 근거해, task reward와 separate 물리 제약(액션 경계, 접촉 보존)을 결합하고, damping randomization으로 OOD 일반화 능력을 강화한다.

메인 벤치마크 결과: seven GAPartNet 객체에서 PICA가 모든 댐핑/모드 조건에서 최고 평균 성능을 달성한다. 예를 들어 ×1×1에서 deterministic/stochastic 각각 1.00/1.00으로 시작하고, ×2×2에서 0.95/0.90, ×4×4에서 0.60/0.65의 평균을 보였다. Avg(Deterministic) 0.56, Avg(Stochastic) 0.43으로 요약된다. baselines인 state-only PPO, Flat-history PPO, GRU-PPO, Transformer-PPO 등은 모두 PICA보다 낮은 성능을 보이며, 특히 4×4 댐핑에서 차이가 크게 나타난다. ablation 결과: 두 물리구조 구성요소를 제거하면 성능이 감소하며, 물리 신호 + GLA를 함께 사용할 때 가장 큰 이익이 발생한다. 150~500 에폭의 base 정책에서도 OOD(Out-of-Domain) 댐핑에서의 로버스트니스가 감소하는 경향이 나타나며, 단순히 학습 길이를 늘리는 것은 문제를 해결하지 못한다. 또한 댐핑 분포 확장을 단독으로 적용하는 경우, 4×4의 안정성 향상은 제한적이다.

1. 전체 아키텍처 구조: 51-DoF SMPL-X 손 정책이 손만 제어하고, 대상 관절은 action 채널이 없어 hand–handle 접촉으로만 동작한다. 2) 핵심 메커니즘의 수학적/알고리즘적 기반: 관찰 s_t은 q_t^h, q̇_t^h, x_handle, r_handle, x_handle−x_palm, q_t^o, q̇_t^o, φ(q_t^o)이며, 행동 a_t는 손의 PD 타깃의 증분으로 처리한다. h_t는 e_t( PD 추적 오차 )와 a_{t−1}로 구성된 history 토큰이며, GLA 인코더가 이를 이용해 시간적 컨택 응답을 예측하는 보조 헤드로 y_t를 예측한다. Lagrangian 방식의 보상항은 r_task, r_dist, r_act, r_time, r_detach, r_success, r_bound, r_contact로 구성된다. 3) Prior work 대비 차별점: 물리 신호를 정책 학습에 직접 주입하고, 접촉-응답의 시간적 정보를 보조 손실로 학습시키며, damping randomization으로 OOD에 대한 로버스트니스가 향상된다. 4) 구현 및 학습 세부사항: PPO 기반으로 학습하며, V(s_t, H_t) 값을 동적으로 추정하고, auxiliary losses는 0에서 0.01로 선형 워밍업한다. 댐핑 랜덤화 범위는 [1.0, 2.0] 기본에서 필요 시 [1.0, 4.0] 등으로 조정한다. Datasets: 277 trajectories across 7 GAPartNet categories로 구성되며, 각 object마다 20에피소드가 수행된다. 5) 이론적 분석: 물리 신호와 시간 의존 표현의 결합이 nominal-dynamics shortcut에 의한 과적합을 억제하고, 접촉 유지와 무리한 작동의 회피를 통한 안정적 접촉 기반 제어를 가능하게 한다.

한계점으로, observation에 힘/촉각 피드백이 없으므로 접촉 상태를 추정하는 것은 간접적이다. 강한 댐핑 하에서 지속적인 경향의 작용이 필요하지만 현재의 51차원 위치 증분 제어 및 force-free 관찰로는 모든 상황에서의 안정적 접촉을 보장하기 어렵다. 또한 upper-body 전체 제어와의 결합 및 실제 로봇 하드웨어에서의 실세계 성능은 추가 연구가 필요하다. Extended fine-tuning에서도 OOD에 의한 강한 댐핑 특성에 완벽히 대응하지 못한다는 점이 보고된다.