분산 데이터 병렬 처리
대규모 데이터를 여러 GPU에 나누어 동시에 학습시키고 각 결과를 동기화하는 기법이다. 단일 GPU 메모리 한계를 극복하고 대규모 모델의 학습 속도를 획기적으로 높인다. Ray Train과 같은 프레임워크를 통해 복잡한 설정을 자동화할 수 있다.