하이브리드 라우터
입력된 쿼리의 복잡도나 유형에 따라 서로 다른 LLM(상용 API 또는 로컬 모델)으로 요청을 분산하는 시스템이다. 비용이 비싼 고성능 모델의 사용량을 최적화하여 전체 운영 비용을 낮추는 데 필수적인 기술적 장치이다.