범용 활성화 함수
다양한 형태의 비선형성을 표현할 수 있도록 설계된 파라미터화된 활성화 함수이다. 신경망의 표현력을 높이기 위해 각 뉴런마다 고유한 파라미터를 가질 수 있다.
PyTorch와 Rust를 결합한 하이브리드 신경망, 왜 학습이 안 될까요?