본문으로 건너뛰기

delayed-tensor-parallelism

지연 텐서 병렬화

중급

다중 GPU 환경에서 통신과 연산을 겹쳐 실행하여 병렬화로 인한 지연 시간을 숨기는 아키텍처 설계 기법이다.

← 용어 사전 전체 보기