본문으로 건너뛰기

gpu-scheduling

GPU 스케줄링

중급

컴퓨팅 자원 중 GPU를 효율적으로 할당하고 관리하는 기술이다. CPU와 달리 자원 공유가 까다롭고 비용이 매우 높기 때문에, 쿠버네티스 환경에서 NVIDIA 장치 플러그인 등을 활용해 워크로드에 최적화된 할당 전략을 세우는 것이 MLOps의 핵심 과제이다.