adam

Adaptive Moment Estimation의 약자로, 경사 하강법의 변형 중 하나다. 개별 파라미터마다 학습률을 다르게 조절하여 효율적인 수렴을 돕는 현재 가장 널리 쓰이는 수동 설계 옵티마이저다.