Intelligent Router

입력의 난이도나 요청 특성을 판별해 저렴한 모델과 frontier 모델 중 하나를 선택하는 게이트웨이 기능입니다. 모델 선택 비용, 추가 지연, 재시도와 결과 수정 비용까지 포함해야 실제 절약 여부를 판단할 수 있습니다.