Parameter Selection
파라미터 선택
컨텍스트 신호에 따라 전체 파라미터 집합에서 계산에 실제로 참여할 하위 집합을 고정적으로 또는 동적으로 골라내는 과정이다. 선택된 가중치만 입력과 곱해져 출력 선형 변환을 만들며, 이로 인해 각 컨텍스트에 특화된 선형 사상 W_c와 편향 b_c가 형성된다. 이 접근은 파라미터의 지역 전문화와 모델의 표현 다양성 확보에 기여한다.
파라미터 선택
컨텍스트 신호에 따라 전체 파라미터 집합에서 계산에 실제로 참여할 하위 집합을 고정적으로 또는 동적으로 골라내는 과정이다. 선택된 가중치만 입력과 곱해져 출력 선형 변환을 만들며, 이로 인해 각 컨텍스트에 특화된 선형 사상 W_c와 편향 b_c가 형성된다. 이 접근은 파라미터의 지역 전문화와 모델의 표현 다양성 확보에 기여한다.
