본문으로 건너뛰기

gradient-aggregation

그래디언트 집계

중급

여러 손실로부터 얻은 개별 그래디언트를 단일 업데이트로 합치는 방법들의 총칭으로, 가중 합, 투표 기반 합치기, 쌍별 타협 목적 최적화 등 다양한 알고리즘을 포함한다. 입력으로 각 손실의 그래디언트를 받아 합성 규칙을 적용해 최종 파라미터 업데이트를 출력한다. 집계 방식은 성능과 안정성에 직접적 영향을 주며 문제 특성에 따라 선택이 달라진다.