계층형 라우팅
요청을 난이도나 중요도에 따라 저비용 모델과 고성능 모델로 분기시키는 아키텍처 패턴으로서 단순 반복 작업은 저렴한 모델로, 복잡 핵심 작업은 프런티어 모델로 보낸다. 라우팅 기준은 입력 길이, 의도 분류, 신뢰도 스코어 등으로 구현되며 이를 통해 전체 비용을 크게 낮출 수 있다. 실제 운영에서는 라우팅 정책과 오케스트레이션 지연, 모델 응답 차이를 균형 있게 설계해야 한다.