본문으로 건너뛰기

riemannian-metric

리만 계량

중급

리만 계량은 파라미터 공간에서 각 방향의 거리와 비용을 정의하는 내적 형태로, 업데이트 방향별 민감도나 비용을 반영하여 그래디언트 스케일링에 사용된다. 본문에서는 파라미터 변화율에 기반한 민감도를 이용해 높은 비용 경로의 업데이트 크기를 억제하는 용도로 계량을 구성했다. 계량은 순전파·추론 비용에는 영향을 주지 않으면서 역전파에서의 업데이트 방향을 조정하는 역할을 한다.