본문으로 건너뛰기
AI Trends
피드
트렌딩
커뮤니티
공지
로그인
피드
트렌딩
커뮤니티
공지
텐서 병렬화 4 (tp4) 용어 설명 | AI Trends
tp4
텐서 병렬화 4
중급
모델의 가중치 행렬을 4개의 GPU에 분할하여 병렬 처리하는 기법. 대형 모델을 단일 GPU 메모리에 올릴 수 없을 때 추론 속도를 높이는 데 사용된다.
비슷한 개념
tensor-parallelism
distributed-inference
model-parallelism
tensor-parallel
sequence-parallelism
data-parallelism
pipeline-parallelism
tensor-split
← 용어 사전 전체 보기