동기식 학습
분산 학습에서 모든 XPU가 동일한 단계에서 계산을 마친 뒤에만 파라미터 업데이트를 집계하는 방식으로, 각 노드의 지연이 전체 학습 시간에 직접적으로 영향을 미친다. 지연 민감도가 높아 데이터센터 간 거리와 네트워크 지연이 학습 속도와 비용을 제약하는 주요 요인이 된다.
