본문으로 건너뛰기
AI Trends
피드
트렌딩
커뮤니티
탐색
보관함
로그인
홈
트렌딩
커뮤니티
보관함
프로필
tensor-parallel
텐서 병렬화
중급
하나의 연산을 여러 장치에 나누어 병렬로 처리하는 방식이다. 분산 환경에서는 장치 간 데이터 전송량이 많아 네트워크 대역폭이 병목 현상의 원인이 되기도 한다.
비슷한 개념
tensor-parallelism
delayed-tensor-parallelism
tp4
model-parallelism
ddp
pipeline-parallel-training
tensor-processing
pipeline-parallel
← 용어 사전 전체 보기