본문으로 건너뛰기
AI Trends
피드
트렌딩
커뮤니티
공지
로그인
피드
트렌딩
커뮤니티
공지
텐서 병렬화 (tensor-parallel) 용어 설명 | AI Trends
tensor-parallel
텐서 병렬화
중급
하나의 연산을 여러 장치에 나누어 병렬로 처리하는 방식이다. 분산 환경에서는 장치 간 데이터 전송량이 많아 네트워크 대역폭이 병목 현상의 원인이 되기도 한다.
비슷한 개념
tensor-parallelism
model-parallelism
ddp
pipeline-parallel-training
tensor-processing
data-parallelism
distributed-processing
distributed-training
← 용어 사전 전체 보기