token-level-moE
토큰 수준 MoE
행동 시퀀스의 각 토큰(시점 혹은 액션 서브유닛)에 대해 전문가 라우팅을 수행하는 Mixture-of-Experts 구조이다. 입력 토큰별로 라우터가 전문가를 선택하고 선택된 전문가만 계산을 수행해 계산 효율과 전문가 다양성을 확보한다. 로봇 행동생성에서 연속적 제어 신호를 효율적으로 모델링하는 데 사용된다.
중급
토큰 수준 MoE
행동 시퀀스의 각 토큰(시점 혹은 액션 서브유닛)에 대해 전문가 라우팅을 수행하는 Mixture-of-Experts 구조이다. 입력 토큰별로 라우터가 전문가를 선택하고 선택된 전문가만 계산을 수행해 계산 효율과 전문가 다양성을 확보한다. 로봇 행동생성에서 연속적 제어 신호를 효율적으로 모델링하는 데 사용된다.