expert-pruning

MoE 모델에서 기여도가 낮거나 중복되는 전문가 노드를 식별하여 제거함으로써 모델의 크기를 줄이고 추론 속도 및 메모리 효율을 개선하는 최적화 기법이다.