cost-aware-routing
비용 인지 라우팅
모든 요청에 같은 고가 모델을 사용하지 않고, 비용이 낮은 모델부터 시작한 뒤 불확실성이나 낮은 평가 점수 같은 조건에서만 더 비싼 모델로 전환하는 선택 전략입니다. 모델 비용과 결과 품질을 함께 고려합니다.
비용 인지 라우팅
모든 요청에 같은 고가 모델을 사용하지 않고, 비용이 낮은 모델부터 시작한 뒤 불확실성이나 낮은 평가 점수 같은 조건에서만 더 비싼 모델로 전환하는 선택 전략입니다. 모델 비용과 결과 품질을 함께 고려합니다.
