TL;DR

Nasiko는 AI 에이전트의 등록 배포 라우팅 관측을 하나의 개발자 컨트롤 플레인으로 통합한 오픈소스 플랫폼이다. 플랫폼은 Kong Gateway를 진입점으로 FastAPI 백엔드와 LangChain 기반 라우터를 결합하여 쿼리 의도를 분석하고 AgentCard에 정의된 능력과 의미론적으로 매칭하여 최적 에이전트를 선택한다. 에이전트 업로드는 Redis 스트림과 BuildKit을 통해 컨테이너 이미지를 빌드하고 Kubernetes에 배포하며 자동 등록과 무중단 업데이트를 지원한다. 내장된 Arize Phoenix 연동과 웹 UI를 통해 LLM 네이티브 추적과 실시간 모니터링을 제공하나 운영을 위해 Docker Compose와 Kubernetes 구성 그리고 인증 키 설정이 선행되어야 한다.

주요 기능

• 에이전트의 버전과 메타데이터를 중앙 레지스트리로 관리한다.
• LangChain 기반 쿼리 분석으로 의미론적 매칭을 수행하여 최적 에이전트를 선택한다.
• Docker Compose와 Kubernetes 기반 자동 배포 파이프라인을 통해 에이전트를 컨테이너화하고 오케스트레이션한다.
• Kong Gateway를 통해 인증 라우팅과 트래픽 분산을 중앙에서 처리한다.
• Arize Phoenix 연동과 내장 대시보드로 추적 추적과 실시간 성능 지표를 제공한다.

어떻게 동작하는가

Nasiko는 마이크로서비스 아키텍처 위에서 Kong Gateway를 진입점으로 사용하여 모든 사용자 요청을 라우팅한다. 라우터 서비스는 LangChain으로 쿼리를 분석하여 AgentCard에 정의된 능력과 의미론적 유사도를 비교하고 confidence score를 산정하여 최적 에이전트의 엔드포인트를 반환한다. 에이전트 업로드는 Redis 스트림으로 비동기 처리되어 BuildKit으로 이미지 빌드 후 Kubernetes에 배포되고 Kong에 자동 등록되어 무중단 업데이트와 롤백이 가능하다.

해결 문제

분산된 AI 에이전트의 등록 배포 라우팅 관측을 한 플랫폼에서 통합하여 운영 복잡도를 줄인다. 에이전트 메타데이터를 표준화된 AgentCard로 관리하여 쿼리 기반 자동 매칭과 폴백 처리를 가능하게 한다. 또한 컨테이너 기반 배포와 Kong을 이용한 중앙 라우팅으로 엔터프라이즈 수준의 가용성과 확장성을 확보한다.

차별점

• AgentCard로 에이전트 능력을 구조화하여 라우터가 의미 기반으로 매칭하도록 설계되어 수동 라우팅 규칙을 줄인다.
• LangChain을 라우터 엔진으로 사용하여 단순 키워드 매칭이 아닌 의도 분석 기반 에이전트 선택을 수행한다.
• 빌드 파이프라인에서 BuildKit과 Kubernetes 자동 배포를 통합하여 로컬 개발에서 클라우드 배포까지 원활한 흐름을 제공한다.
• 내장된 Arize Phoenix 연동과 Kong 플러그인으로 LLM 네이티브 관측과 요청 추적을 플랫폼 차원에서 연계한다.

사용 사례

• 여러 전문 에이전트를 운영하면서 쿼리 의도에 따라 자동으로 가장 적합한 에이전트를 선택해야 하는 서비스 운영 환경.
• 로컬 개발자가 예제 Agent를 빠르게 업로드하여 Kong과 Kubernetes 환경에서 프로덕션처럼 테스트하고자 하는 개발 워크플로.
• 엔터프라이즈 환경에서 인증 로깅 트래픽 관리와 LLM 상호작용 관측을 중앙 통제하길 원하는 운영 팀.

시작하기

로컬 테스트는 저장소를 클론한 뒤 제공되는 환경 파일 예제를 복사하여 API 키와 시크릿을 설정하고 uv sync로 CLI 종속성을 설치한 다음 Docker Compose를 통해 전체 스택을 기동하면 된다. 기본 명령으로 docker compose -f docker-compose.local.yml --env-file .nasiko-local.env up -d를 실행하면 Kong Gateway와 백엔드 라우터 웹 UI가 올라가며 웹 인터페이스는 http://localhost:9100/app/에서 접근 가능하다. 에이전트 개발을 위한 예제는 agents 디렉터리의 샘플을 참고하여 AgentCard.json과 Dockerfile을 준비한 뒤 nasiko CLI로 업로드하여 자동 배포 경로를 검증하면 된다.

요구사항

• Docker 및 Docker Compose
• Python 3.12 이상
• 로컬 개발용 4GB 이상의 RAM 권장