본문으로 건너뛰기

managed-deployment

매니지드 배포

매니지드 배포는 공급자가 고객의 클라우드 테넌시 안에서 GPU와 서빙 스택을 운영하여 데이터가 고객 소유 환경에 머무르게 하는 서비스 모델이다. 고객은 MLOps 인력을 직접 채용하지 않아도 되며 OpenAI 호환 엔드포인트처럼 기존 코드 변경이 적어 빠르게 전환할 수 있다. 하지만 GPU 시간 기반 과금이 계속 발생하고 공급자 종속과 공개 가중치만 탑재 가능한 제약이 남는다.