mixture-of-models

여러 모델을 능력과 비용에 따라 동적으로 선택해 요청을 분배하는 라우팅 패턴이다. 입력 프롬프트를 분류해 각 모델의 '적합성' 점수를 계산하고 예산 측면에서 가장 효율적인 모델로 한 번만 요청을 전달한다. 단일 대형 모델에 모든 요청을 보내는 방식과 비교해 비용과 지연을 줄이는 데 중요한 역할을 한다.