llm-router
LLM 라우터
사용자의 요청(프롬프트)을 분석하여 비용, 성능, 속도 등 사전에 정의된 기준에 따라 가장 적합한 언어 모델로 연결해주는 중계 시스템이다. 단일 모델에 의존하지 않고 작업의 복잡도에 따라 최적의 모델을 동적으로 선택하여 효율성을 극대화한다.
LLM 라우터
사용자의 요청(프롬프트)을 분석하여 비용, 성능, 속도 등 사전에 정의된 기준에 따라 가장 적합한 언어 모델로 연결해주는 중계 시스템이다. 단일 모델에 의존하지 않고 작업의 복잡도에 따라 최적의 모델을 동적으로 선택하여 효율성을 극대화한다.