본문으로 건너뛰기

피드 트렌딩 커뮤니티 공지사항 기술 태그 AI 용어 사전 서비스 소개 문의 운영 정책 개인정보 처리방침

매일 업데이트되는 글로벌 소스의 AI/ML 뉴스를 수집하고 한국어로 요약합니다.

AI Trends·후원

피드 트렌딩 커뮤니티 공지

피드 트렌딩 커뮤니티 공지

그래디언트 동기화 (gradient-sync) 용어 설명 | AI Trends

gradient-sync

그래디언트 동기화

중급

분산 학습 환경에서 여러 컴퓨팅 노드가 계산한 오차 기울기를 합쳐 모델을 업데이트하는 과정으로, 대규모 통신 자원을 소모한다.

비슷한 개념

gradient-compression sgd local-sgd distributed-training synchronization-overhead all-reduce collectives collective-operations

← 용어 사전 전체 보기