hybrid-rnn

전통적인 순환 신경망(RNN)의 효율적인 상태 유지 특성과 트랜스포머의 병렬 처리 능력을 결합한 아키텍처이다. 긴 문맥을 처리할 때 메모리 사용량을 획기적으로 줄이면서도 높은 성능을 유지할 수 있어 차세대 모델 구조로 주목받는다.