본문으로 건너뛰기

Provider routing

공급자 라우팅

여러 LLM 제공자 중 최적의 모델이나 서비스로 요청을 분산하는 기법으로, 비용 최적화와 성능 향상을 위해 사용된다.