usd-per-gpu-hour
GPU 시간당 미화(USD)
GPU 리소스 사용량을 시간 단위로 환산한 비용 지표이며 차트의 가로축 단위로 사용된다. 공급자와 구매 방식에 따라 시간당 비용이 크게 달라지므로 모델 추론 비용 산정과 예산 책정의 기본 척도로 활용된다. 비용 추정 시에 throughput이나 batch 크기 같은 성능 지표와 함께 고려해야 실제 운영비를 정확히 예측할 수 있다.
GPU 시간당 미화(USD)
GPU 리소스 사용량을 시간 단위로 환산한 비용 지표이며 차트의 가로축 단위로 사용된다. 공급자와 구매 방식에 따라 시간당 비용이 크게 달라지므로 모델 추론 비용 산정과 예산 책정의 기본 척도로 활용된다. 비용 추정 시에 throughput이나 batch 크기 같은 성능 지표와 함께 고려해야 실제 운영비를 정확히 예측할 수 있다.
