TL;DR

workweave/router는 에이전트 시스템을 위한 지능형 모델 라우터이다. 요청마다 적절한 모델을 실시간으로 선택하는 클러스터 스코어러를 통해 API 비용을 40~70% 절감하고 지연 시간을 50ms 미만으로 유지한다. Claude Code, Codex, Cursor 등 주요 개발 도구와 호환되며 로컬에서 API 키를 암호화하여 관리하는 BYOK 방식을 채택했다. 별도의 인프라 구축 없이 즉시 사용 가능하며 OTLP 기반의 관측성을 제공하여 에이전트 워크플로우의 효율을 높인다.

핵심 포인트

• 액션 단위로 최적 모델을 선택하는 클러스터 스코어러를 통해 API 비용을 40~70% 절감한다.
• Anthropic, OpenAI, Gemini 등 주요 API와 호환되는 드롭인 프록시로 기존 도구에 즉시 적용된다.
• 로컬 환경에서 동작하는 임베더를 사용하여 50ms 미만의 빠른 라우팅 지연 시간을 보장한다.
• 사용자 API 키를 로컬에 암호화하여 저장하는 BYOK 방식을 기본으로 지원한다.

벤치마크