multinode-training

여러 대의 컴퓨팅 노드를 연결하여 대규모 모델을 분산 학습하는 방식. 고대역폭 네트워크를 통해 노드 간 통신 병목을 최소화하는 것이 성능의 핵심이다.