본문으로 건너뛰기
AI Trends
피드
트렌딩
커뮤니티
탐색
보관함
로그인
홈
트렌딩
커뮤니티
보관함
프로필
tp4
텐서 병렬화 4
중급
모델의 가중치 행렬을 4개의 GPU에 분할하여 병렬 처리하는 기법. 대형 모델을 단일 GPU 메모리에 올릴 수 없을 때 추론 속도를 높이는 데 사용된다.
비슷한 개념
tensor-parallelism
distributed-inference
model-parallelism
tensor-parallel
pipeline-parallel
sequence-parallelism
data-parallelism
pipeline-parallelism
← 용어 사전 전체 보기
