turn-level-routing

턴 단위 라우팅은 에이전트 대화의 개별 턴을 독립적으로 분석해 해당 턴을 처리할 최적 모델을 선택하는 방법으로, 입력 텍스트를 난이도 분류기로 통과시켜 라우터가 모델을 결정하고 실행 결과를 반환한다. 이 방식은 세션 전체를 하나의 모델에 묶는 기존 접근과 달리 각 턴별로 적합도를 따져 자원 사용을 효율화한다. 반복되는 프리픽스나 동일한 쿼리에는 캐시 조회로 토큰 계산을 건너뛰게 한다는 점이 중요하다.