본문으로 건너뛰기

트렌딩 - GitHub 인기 레포 & HuggingFace 모델

LanceZPF/agent-as-a-router

TypeScript1 / 0

ACRouter는 코딩 과제를 다중 백엔드 모델로 라우팅해 성능과 비용을 균형시킨 재현 가능한 구현과 벤치마크를 제공한다.

TL;DR

이 저장소는 논문 'Agent-as-a-Router'의 공식 재현 구현과 CodeRouterBench 벤치마크, 체크인된 출력, 그리고 데모를 포함해 코딩 과제에서 모델 라우팅을 실험하고 재생할 수 있도록 구성되어 있다. ACRouter는 후보 모델 목록과 저비용 우선 체인을 사용해 각 모델 호출 뒤에 검증기를 적용하고 실패 시 더 강력한 모델로 에스컬레이션하는 정책을 통해 성능과 비용의 균형을 관리한다. 공개 OOD176 매트릭스와 가격 정보를 포함해 비용 대비 성능 통계를 산출할 수 있으며 오프라인 재현 모드는 API 키 없이 논문 실험을 반복할 수 있게 설계되어 있다.

핵심 포인트

  • 공식 재현 구현과 체크인된 레퍼런스 출력, 그리고 CodeRouterBench 데이터셋을 함께 제공해 논문 결과를 로컬에서 재생할 수 있다는 점이 주요 차별점이다. outputs/ 디렉터리에 예시 결과를 포함해 재현 파이프라인이 참조 가능한 상태로 유지되어 있다. 이 점은 단순한 연구 코드가 아니라 실험 재생성을 염두에 둔 배포라는 측면에서 가치가 있다.
  • 성능-비용 트레이드오프를 라우팅 정책의 일차 목표로 삼아 라우터 설계에 비용 테이블과 매트릭스 기반 의사결정이 통합되어 있다는 점이 차별화 요소이다. README와 데이터에 포함된 model_pricing.json을 통해 USD 기반 비용 계산이 가능한 점이 실무 적용에 직접적인 이점을 제공한다. 따라서 단순 성능 최적화가 아니라 비용 통제 요건이 있는 환경에서 유용하다.
  • Claude Code·Codex·Opencode 같은 상용 또는 로컬 CLI 백엔드를 바로 연결할 수 있는 런타임 통합 예시와 템플릿을 제공해 실제 워크플로에 빠르게 적용할 수 있다. claude-code-router와 cc-switch 같은 하위 디렉터리는 게이트웨이 또는 프록시 수준에서 라우팅을 실행하도록 설계되어 통합 난이도를 낮춘다. 이로 인해 연구용 재현에서 실무용 파이프라인으로 전환하기가 용이하다.
  • 코딩 과제를 후보 모델 목록에 순차적으로 또는 정책에 따라 전달해 최종 응답을 선택하는 라우팅 파이프라인을 포함한다. 이 파이프라인은 모델 호출 함수와 검증기 콜백을 결합해 검증 실패 시 에스컬레이션을 수행하도록 설계되어 있다. 오프라인 재현 모드에서는 API 키 없이 체크인된 출력과 매트릭스를 사용해 동일한 실험을 반복할 수 있다.

벤치마크

벤치마크지표비교
IDAvgPerf50.14
ACRouter-OOD176AvgPerf73.30

819

STARS

16

FORKS

+206

TRENDING

1

조회수

watchers 819open issues 0MIT License

관련 토론

아직 관련 토론이 없습니다.

댓글

댓글을 작성하려면 로그인이 필요합니다.