여러 업스트림 MCP 서버를 통합하는 단일 MCP 엔드포인트 구현

실용적 조언

여러 MCP 서버를 운영해야 한다면 개별 연결 대신 프록시 역할을 하는 통합 엔드포인트 구축을 검토해야 한다.
도구 이름이 겹칠 수 있으므로 네임스페이스나 정규화된 이름을 사용하여 레지스트리를 관리하는 것이 안전하다.

섹션별 상세

작성자는 여러 업스트림 MCP 서버를 전면에서 관리하는 단일 /mcp 엔드포인트를 구축했다. 이 시스템은 클라이언트가 개별 서버에 직접 연결하는 대신 통합된 경로를 통해 도구에 접근하도록 설계됐다. 업스트림 연결은 지속적으로 유지되며 연결이 끊길 경우 자동으로 재연결을 시도하여 안정성을 확보했다. 복잡한 마이크로서비스 환경에서 MCP 서버 관리를 단순화하는 실무적 해결책이다.

도구 충돌을 방지하기 위해 정규화된 이름을 사용하는 도구 레지스트리를 구현했다. 각 업스트림 서버의 도구들을 고유한 식별자로 등록하여 클라이언트가 정확한 기능을 호출할 수 있도록 처리한다. 클라이언트의 Accept 헤더에 따라 JSON 또는 SSE 응답 형식을 동적으로 선택하여 반환하는 유연성을 갖췄다. 이는 다양한 인터페이스를 가진 클라이언트 앱들과의 호환성을 극대화한다.

운영 효율성을 위해 업스트림별 인증과 모니터링 기능을 포함했다. 각 서버로 전달되는 요청에 대해 개별적인 인증 로직을 적용하여 보안을 강화했다. 또한 Prometheus 메트릭을 수집하여 전체 시스템의 트래픽과 상태를 실시간으로 추적할 수 있게 설계했다. 에이전트 시스템을 프로덕션 환경에서 운영할 때 필요한 필수적인 관제 요소를 갖춘 아키텍처이다.

용어 해설

모델 컨텍스트 프로토콜(Model Context Protocol): — Anthropic에서 제안한 개방형 표준으로, AI 모델이 데이터 소스 및 도구와 연결되는 방식을 통합한다. 이를 통해 서로 다른 AI 에이전트와 서버 간의 상호운용성을 확보하고 도구 사용의 복잡성을 줄이는 역할을 한다.
서버 전송 이벤트(Server-Sent Events): — 서버가 클라이언트에게 실시간으로 데이터를 푸시할 수 있게 하는 단방향 통신 기술이다. LLM 응답 생성 시 토큰 단위로 실시간 스트리밍을 구현하는 데 주로 사용되며 HTTP 프로토콜 위에서 작동한다.
프로메테우스 메트릭(Prometheus Metrics): — 오픈소스 모니터링 시스템인 Prometheus에서 사용하는 시계열 데이터 형식이다. 서버의 성능, 요청 수, 오류율 등을 수집하여 시스템의 상태를 실시간으로 파악하고 시각화하는 데 필수적이다.

언급된 도구

MCP추천

모델과 도구 간의 연결 프로토콜

Prometheus추천

시스템 메트릭 모니터링 및 시각화