본문으로 건너뛰기

피드 트렌딩 커뮤니티 공지사항 기술 태그 AI 용어 사전 서비스 소개 문의 운영 정책 개인정보 처리방침

매일 업데이트되는 글로벌 소스의 AI/ML 뉴스를 수집하고 한국어로 요약합니다.

AI Trends·후원

피드 트렌딩 커뮤니티 공지

피드 트렌딩 커뮤니티 공지

GPU 오프로드 (gpu-offload) 용어 설명 | AI Trends

gpu-offload

GPU 오프로드

중급

모델의 연산 레이어를 CPU 대신 GPU 메모리에 할당하여 처리하는 기법으로, 할당량이 높을수록 추론 속도가 빨라진다.

비슷한 개념

gpu-offloading ngl gpu-layers cpu-offload inference-offloading offload cuda-malloc distributed-inference

← 용어 사전 전체 보기