본문으로 건너뛰기

active-parameters

활성 파라미터

MoE 구조에서 특정 입력값을 처리할 때 실제로 연산에 참여하는 파라미터의 수이다. 모델의 실제 추론 비용과 연산량을 결정하는 핵심 지표로 활용된다.