Mixture-of-Recursions
재귀 혼합 구조
학습된 Router가 토큰마다 필요한 반복 계산 횟수를 결정하는 구조입니다. 쉬운 토큰은 이른 단계에서 빠져나가고 어려운 토큰은 더 많은 Transformer 층을 통과하므로, 반복형 구조의 계산 비용을 입력 난이도에 맞춰 조절하는 방식으로 제시됩니다.
재귀 혼합 구조
학습된 Router가 토큰마다 필요한 반복 계산 횟수를 결정하는 구조입니다. 쉬운 토큰은 이른 단계에서 빠져나가고 어려운 토큰은 더 많은 Transformer 층을 통과하므로, 반복형 구조의 계산 비용을 입력 난이도에 맞춰 조절하는 방식으로 제시됩니다.
