비용 최적화
서비스 수준을 유지하면서 모델 호출·인프라·대기시간 등에서 지출을 줄이는 전략으로, 토큰 절감·캐시 적용·모델 사이징·스케일링 정책 등 입력→처리→배포 전반의 조합으로 구현한다. 라우팅은 이론적으로 비용 절감에 기여하지만 정책 복잡도·추가 호출 오버헤드·예측 실패 비용이 되기도 한다.
