본문으로 건너뛰기

트렌딩 - GitHub 인기 레포 & HuggingFace 모델

Nasiko-Labs/nasiko

Rust1 / 0

AI 에이전트의 등록 배포 라우팅 관측을 통합하는 클라우드 네이티브 컨트롤 플레인이다.

TL;DR

Nasiko는 AI 에이전트의 등록 배포 라우팅 관측을 하나의 개발자 컨트롤 플레인으로 통합한 오픈소스 플랫폼이다. 플랫폼은 Kong Gateway를 진입점으로 FastAPI 백엔드와 LangChain 기반 라우터를 결합하여 쿼리 의도를 분석하고 AgentCard에 정의된 능력과 의미론적으로 매칭하여 최적 에이전트를 선택한다. 에이전트 업로드는 Redis 스트림과 BuildKit을 통해 컨테이너 이미지를 빌드하고 Kubernetes에 배포하며 자동 등록과 무중단 업데이트를 지원한다. 내장된 Arize Phoenix 연동과 웹 UI를 통해 LLM 네이티브 추적과 실시간 모니터링을 제공하나 운영을 위해 Docker Compose와 Kubernetes 구성 그리고 인증 키 설정이 선행되어야 한다.

핵심 포인트

  • AgentCard로 에이전트 능력을 구조화하여 라우터가 의미 기반으로 매칭하도록 설계되어 수동 라우팅 규칙을 줄인다.
  • LangChain을 라우터 엔진으로 사용하여 단순 키워드 매칭이 아닌 의도 분석 기반 에이전트 선택을 수행한다.
  • 빌드 파이프라인에서 BuildKit과 Kubernetes 자동 배포를 통합하여 로컬 개발에서 클라우드 배포까지 원활한 흐름을 제공한다.
  • 내장된 Arize Phoenix 연동과 Kong 플러그인으로 LLM 네이티브 관측과 요청 추적을 플랫폼 차원에서 연계한다.

4.9k

STARS

1k

FORKS

+204

TRENDING

1

조회수

watchers 4.9kopen issues 90Other

관련 토론

아직 관련 토론이 없습니다.

댓글

댓글을 작성하려면 로그인이 필요합니다.