본문으로 건너뛰기

피드 트렌딩 커뮤니티 공지사항 기술 태그 AI 용어 사전 서비스 소개 문의 운영 정책 개인정보 처리방침

매일 업데이트되는 글로벌 소스의 AI/ML 뉴스를 수집하고 한국어로 요약합니다.

AI Trends·후원

피드 트렌딩 커뮤니티 공지

피드 트렌딩 커뮤니티 공지

지연 텐서 병렬화 (delayed-tensor-parallelism) 용어 설명 | AI Trends

delayed-tensor-parallelism

지연 텐서 병렬화

중급

다중 GPU 환경에서 통신과 연산을 겹쳐 실행하여 병렬화로 인한 지연 시간을 숨기는 아키텍처 설계 기법이다.

비슷한 개념

tensor-parallelism tensor-parallel model-parallelism parallel-processing context-parallelism ddp pipeline-parallel-training lazy-evaluation

← 용어 사전 전체 보기