활성화된 파라미터
활성화된 파라미터는 특정 토큰 처리 시 실제로 연산에 참여하는 파라미터의 수를 뜻한다. MoE 구조에서는 전체 파라미터 대비 토큰당 활성화되는 파라미터가 적기 때문에 '활성화된 파라미터' 개념이 비용·성능 트레이드오프를 설명하는 핵심 지표가 된다. Step3는 토큰당 약 38B를 활성화해 효율적 추론을 도모했다.
