20개 이상의 클라우드 API에서 실시간 GPU 가격을 수집하는 오픈소스 카탈로그

대체로 긍정적이며, GPU 자원 확보와 비용 절감에 고민하던 개발자들이 유용한 도구라는 반응을 보였다.

• 학습 작업 시작 전 skypilot-catalog를 통해 현재 가장 저렴한 지역의 스팟 인스턴스 가격과 추세를 확인하여 비용을 절감하라.

스팟 인스턴스(Spot Instance)

— 클라우드 서비스 제공업체의 유휴 자원을 저렴하게 대여하는 방식이다. 온디맨드 대비 최대 90% 저렴하지만 공급 상황에 따라 자원이 회수될 수 있어 체크포인팅이 필수적인 학습 작업에 주로 활용된다.

온디맨드 인스턴스(On-demand Instance)

— 사용자가 필요할 때 즉시 할당받아 고정된 가격으로 사용하는 클라우드 컴퓨팅 방식이다. 중단 없이 안정적인 실행이 보장되므로 실시간 추론 서비스나 중단되면 안 되는 긴급한 학습 작업에 적합하다.

GPU 카탈로그(GPU Catalog)

— 다양한 클라우드 제공업체의 GPU 사양, 가격, 가용성 정보를 한곳에 모아둔 데이터베이스이다. 모델 학습이나 추론을 위해 가장 가성비 좋은 하드웨어 자원을 선택하는 의사결정 도구로 활용된다.