본문으로 건너뛰기
AI Trends
피드
트렌딩
커뮤니티
탐색
보관함
로그인
홈
트렌딩
커뮤니티
보관함
프로필
cross-group-all-reduce
크로스 그룹 All-Reduce
중급
FoE에서 H개 그룹 간의 잔차(rfull)를 합산하는 축적 연산으로, 그룹 간 정보 공유를 비용이 적은 방식으로 수행한다.
비슷한 개념
collectives
collective-communication
collective-operations
expert-groups
all-reduce
local-activation-rate
allreduce
gradient-sync
← 용어 사전 전체 보기