Classifier Routing
분류기 기반 라우팅
별도의 classifier가 각 요청을 약한 모델이 처리할 수 있는지 추정한 뒤, 설정된 기준에 따라 저비용 모델이나 강한 모델로 보내는 방식입니다. 요청 난이도를 사전에 판단한다는 점에서 실행 결과를 보고 올리는 escalation routing과 구분됩니다.
분류기 기반 라우팅
별도의 classifier가 각 요청을 약한 모델이 처리할 수 있는지 추정한 뒤, 설정된 기준에 따라 저비용 모델이나 강한 모델로 보내는 방식입니다. 요청 난이도를 사전에 판단한다는 점에서 실행 결과를 보고 올리는 escalation routing과 구분됩니다.
