본문으로 건너뛰기
TP4
텐서 병렬화 4
모델의 가중치 행렬을 4개의 GPU에 분할하여 병렬 처리하는 기법. 대형 모델을 단일 GPU 메모리에 올릴 수 없을 때 추론 속도를 높이는 데 사용된다.
비슷한 개념
Tensor Parallelism
Distributed Inference
Model Parallelism
Tensor Parallel
Pipeline-parallel
Sequence Parallelism
Data Parallelism
Pipeline Parallelism
← 용어 사전 전체 보기
AI Trends
피드
트렌딩
커뮤니티
탐색
보관함
로그인
홈
트렌딩
커뮤니티
보관함
프로필