llm-routing
사용자의 입력값에 따라 가장 적합한 언어 모델이나 처리 경로를 동적으로 결정하는 기술이다. 비용 절감, 응답 품질 향상, 처리 속도 최적화를 목적으로 수행된다.
LLM 비용 45% 절감, 설정 변경 없이 최적의 모델로 자동 라우팅
Langflow 1.7 출시! MCP 스트리밍과 IBM CUGA로 더 강력해진 AI 에이전트