본문으로 건너뛰기

nccl_ib_qps_per_connection

NCCL IB 연결당 QPS 설정

NCCL_IB_QPS_PER_CONNECTION은 RDMA 패브릭에서 하나의 연결이 동시에 열 수 있는 큐 페어 수(QPS)를 정하는 환경변수이다. 낮은 QPS가 대규모 AllGather/ReduceScatter 동작에서 네트워크 병목을 만들 수 있어 메시지 지연과 전체 반복 시간이 늘어난다. 기사 사례에서는 기본값 1에서 4로 올리자 AllGather가 375ms→262ms로 개선됐다.