폴백 체인
주 모델이 실패하거나 응답하지 않을 때 순차적으로 다음 대안 모델을 호출하여 시스템의 가용성을 보장하는 구조이다.
LLM 비용 45% 절감, 설정 변경 없이 최적의 모델로 자동 라우팅
31개 모델을 하나로 묶는 LLM 라우팅 최적화 전략