본문으로 건너뛰기

cpu-gpu-ratio

CPU:GPU 비율

CPU:GPU 비율은 데이터센터나 랙 단위에서 배치된 CPU 코어 수 대비 GPU 수의 비율을 가리킨다. 전통적 대규모 학습·고동시성 추론 환경에서는 GPU 중심 설계로 1:8 수준이 보편적이었으나, 에이전트형 워크로드와 로컬·도메인 특화 모델 확산으로 이 비율이 1:4, 1:2, 심지어 1:1 수준으로 이동하고 있다. 비율 변화는 인프라 설계, 메모리 아키텍처, 비용 모델, 전력·냉각 요구를 함께 재구성하게 만든다.