메가MoE
MegaMoE는 다수의 전문가(weighted experts) 경로를 확장해 대규모 전문가 체인을 효과적으로 활용하는 MoE 기반의 인퍼런스 경로로, FP4 양자화와 결합해 높은 처리량을 달성한다.