주요 제공자들의 스팟(인터럽티블) GPU 요금 비교와 운영적 차이(2026년 6월, 단일 GPU, 미국 지역)

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

2026년 6월 미국 단일 GPU 기준으로 주요 마켓플레이스와 클라우드의 스팟(인터럽티블) 요금을 조사한 결과 H100 80GB는 RunPod이 시간당 약 1.80–2.40달러, Vast.ai가 1.47–2.00달러(공급 부족 시 1.03달러 관찰), AWS P5는 목록상 2.50–3.10달러이나 실용적 가용성이 낮았고 A100 80GB는 RunPod의 최저가가 0.20–0.40달러로 집계되었으나 그 구간에서 호스트 신뢰도가 급격히 떨어지는 경향이 관찰되었다. 동일한 시간당 가격이라도 플랫폼·호스트·가용성 창과 신뢰도에 따라 실제 운영 성능과 중단 위험이 크게 달라지므로 장기 학습 파이프라인에서는 체크포인팅·재시도·호스트 평판을 함께 설계해 총비용을 평가해야 한다. 최종적으로 원문 작성자는 광고성 온디맨드 비교와 달리 스팟 계층은 운영적 차이를 반드시 고려해야 한다고 결론 내렸고, 실제 관찰되는 중단 비율에 대한 추가 경험 공유를 요청했다.

섹션별 상세

데이터 수집 범위는 2026년 6월에 단일 GPU, 미국 리전 기준으로 주요 제공자들의 interruptible/spot 요금만을 취합한 것이며, 공개 비교에서 주로 다루는 온디맨드 요금과 달리 실제 학습 예산이 주로 소비되는 스팟 계층에 초점을 맞췄다. 원문은 각 플랫폼별로 관찰된 시간당 요금 범위를 열거했고 이 수치는 동일한 하드웨어 타입이라도 공급·호스트별로 변동한다는 사실을 기반으로 한다. 이런 범위 수치는 장기 학습 예산 산정과 중단 대비 설계에 직접적인 입력값이 된다.

H100 80GB의 관측 결과로 RunPod 커뮤니티 스팟은 시간당 대략 1.80달러에서 2.40달러 수준이었고 종료 보장이 없는 티어로 보고되었으며, Vast.ai는 보통 1.47달러에서 2.00달러 수준을 보이다가 공급이 줄어들면 간헐적으로 1.03달러까지 떨어지는 사례가 관찰되었다. AWS의 P5 스팟은 목록상으로는 시간당 2.50달러에서 3.10달러 범위였지만 실제 용량 가용성이 불안정해서 실무에서 파이프라인을 의존하기 어렵다고 언급되었다. 이 관찰은 동일 하드웨어 이름이라도 플랫폼·티어·가용성 차이로 인해 가격 비교만으로는 운영 결정을 내리기 어렵다는 점을 시사한다.

A100 80GB의 관측에서는 RunPod 커뮤니티에서 최저 0.20달러에서 0.40달러까지 보고되었지만 최저 구간에서는 호스트 신뢰도가 크게 저하된다는 경향이 나타났고, Vast.ai는 호스트 스코어에 따라 변동하며 통상적으로 약 0.67달러 수준을 기록했다. AWS의 P4d 스팟은 비교적 더 일관된 가용성을 보여 시간당 약 1.00달러에서 1.50달러를 형성했다고 보고되었으며, 동일 플랫폼 내에서도 낮은 가격대 호스트와 높은 가격대 호스트가 제공하는 운영 품질이 실질적으로 다르다는 점이 강조되었다. 이 사례들은 단순 시간당 비용 비교가 아니라 중단 확률·호스트 평판·가용성 창을 함께 고려해야 함을 보여준다.

운영적 함의로서 스팟과 온디맨드의 가장 큰 차이는 가격 변동성뿐 아니라 비교 대상의 차원이 늘어난다는 점이다; 스팟에서는 제공자뿐 아니라 개별 호스트, 가용성 창, 신뢰도 티어를 모두 비교해야 하며 이 요소들이 동일 가격대의 실효 성능을 결정한다. 원문은 Vast.ai의 저가 수치가 매력적으로 보이더라도 동일 플랫폼의 다른 호스트의 더 높은 가격대와 동등한 제품이 아니라고 지적했고, AWS P5 스팟은 기술적으로 목록에 있으나 실무용 파이프라인 기반으로 신뢰하기에는 제약이 많다고 정리했다. 장기 학습을 계획할 때는 체크포인팅 같은 중단 대비 설계를 포함해 비용 절감 효과와 중단으로 인한 재시작·지연 비용을 함께 계산해야 한다는 결론이 도출된다.

용어 해설

Spot Instance: — 스팟 인스턴스는 클라우드/마켓플레이스에서 남는 용량을 저렴한 가격에 제공하는 일시적 가상머신으로, 공급 변화에 따라 인스턴스가 강제 종료될 수 있다. 가격은 수요·공급·호스트 정책에 따라 실시간 변동하며, 장시간 학습 작업에서는 중단 가능성을 고려해 체크포인팅과 재시도 로직을 설계하는 것이 필수적이다.
Checkpointing: — 체크포인팅은 장기 학습 작업에서 중간 모델 상태를 주기적으로 저장해 스팟 인스턴스 중단 시 저장된 지점부터 학습을 재개할 수 있게 하는 기법으로, 저장 빈도·저장 매체·복구 절차 설계가 비용·복구 시간·데이터 무결성의 핵심 트레이드오프를 결정한다.
Host Reliability: — 호스트 신뢰도는 마켓플레이스 내 개별 물리 호스트 또는 제공자별로 인스턴스가 유지되는 평균 시간과 강제 종료 빈도를 합친 개념으로, 동일한 시간대의 동일한 가격이라도 호스트 신뢰도 차이에 따라 실제 사용 가능 시간과 작업 성공률이 크게 달라진다.

주요 제공자들의 스팟(인터럽티블) GPU 요금 비교와 운영적 차이(2026년 6월, 단일 GPU, 미국 지역)

TL;DR

섹션별 상세

용어 해설

관련 토론

댓글

관련 기사

GPU Compute Index 공개와 100GbE에서 70B+ 학습 시 발생하는 40% 숨겨진 비용 경고

소규모 연구실의 5090 GPU 렌탈 대 구매 비용 비교 및 운영 경험

GPU 유휴 타임아웃을 비용 모델로 보는 접근

대규모 분산 학습에서 인터커넥트가 GPU 실사용률과 비용 산정에 미치는 영향과 계산기 공개

TokenPrices를 통한 LLM 가격 모니터링: 8주 간의 실무 인사이트