파라미터 선택
컨텍스트 신호에 따라 전체 파라미터 집합에서 계산에 실제로 참여할 하위 집합을 고정적으로 또는 동적으로 골라내는 과정이다. 선택된 가중치만 입력과 곱해져 출력 선형 변환을 만들며, 이로 인해 각 컨텍스트에 특화된 선형 사상 W_c와 편향 b_c가 형성된다. 이 접근은 파라미터의 지역 전문화와 모델의 표현 다양성 확보에 기여한다.