본문으로 건너뛰기

gradient-sync

그래디언트 동기화

중급

분산 학습 환경에서 여러 컴퓨팅 노드가 계산한 오차 기울기를 합쳐 모델을 업데이트하는 과정으로, 대규모 통신 자원을 소모한다.