본문으로 건너뛰기
AI Trends
피드
트렌딩
커뮤니티
탐색
보관함
로그인
홈
트렌딩
커뮤니티
보관함
프로필
sharding-plan
샤딩 계획
중급
대규모 모델의 텐서를 여러 GPU 장치에 분산 배치하는 전략입니다. 효율적인 샤딩 계획은 초기화 시 통신 오버헤드를 줄이고 메모리 활용도를 최적화하는 데 필수적입니다.
비슷한 개념
model-sharding
fsdp
tensor-parallelism
zero-3-fsdp
distributed-inference
tp4
fully-sharded-data-parallel
hsdp
← 용어 사전 전체 보기