본문으로 건너뛰기
GPU Offload
GPU 오프로드
모델의 연산 레이어를 CPU 대신 GPU 메모리에 할당하여 처리하는 기법으로, 할당량이 높을수록 추론 속도가 빨라진다.
비슷한 개념
GPU Offloading
NGL (Number of GPU Layers)
CPU Offloading
gpu-layers
CPU Offload
Inference Offloading
Offload
CUDA Malloc
← 용어 사전 전체 보기
AI Trends
피드
트렌딩
커뮤니티
탐색
보관함
로그인
홈
트렌딩
커뮤니티
보관함
프로필