Weight Sync
가중치 동기화
훈련기에서 업데이트된 최신 모델 파라미터를 롤아웃을 수행하는 추론 엔진으로 전달하는 과정이다. 모델 크기가 커질수록 네트워크 전송 부하가 심해지며, 동기화 속도가 느려지면 GPU가 유휴 상태에 빠져 전체 학습 효율이 저하된다.
가중치 동기화
훈련기에서 업데이트된 최신 모델 파라미터를 롤아웃을 수행하는 추론 엔진으로 전달하는 과정이다. 모델 크기가 커질수록 네트워크 전송 부하가 심해지며, 동기화 속도가 느려지면 GPU가 유휴 상태에 빠져 전체 학습 효율이 저하된다.