가중치 초기화
가중치 초기화는 학습을 시작할 때 신경망 가중치 값들을 설정하는 절차로서 초기 분포가 학습 속도와 수렴 안정성에 영향을 준다. 표준 방식은 Xavier나 He 초기화처럼 층의 입력과 출력 차원을 고려한 분산으로 샘플링하는 것이다. 교육용 코드에서는 초기화를 명시적으로 구현해 학습 곡선의 변화 원인을 관찰할 수 있다.