recursive-language-model
모델의 층(layer)을 고정된 파라미터로 여러 번 반복하여 사용하는 언어 모델 구조이다. 파라미터 효율성을 극대화할 수 있으나 학습 안정성과 연산 효율성 확보가 핵심 과제이다.
파라미터는 그대로, 성능은 폭발? 재귀적 모델의 귀환