본문으로 건너뛰기

gradient-centralization

그래디언트 중앙화

그래디언트 벡터의 평균을 0으로 맞추는 정규화 기법이다. 손실 함수의 표면을 더 매끄럽게 만들어 학습을 안정화하고 수렴 속도를 높이는 효과가 있다.