롱테일 배포
사용 빈도가 낮거나 불규칙한 여러 모델을 배포하는 상황을 의미하며, 각 모델마다 독립적인 인프라를 유지하기 어려워 서버리스를 선택하지만 오버헤드 비용이 커지는 딜레마가 있다.
8분 추론에 100분 과금? 서버리스 MLOps의 숨겨진 비용 함정