MCP 도구 정의가 컨텍스트 창의 72%를 점유한다는 분석 결과

섹션별 상세

MCP 서버의 도구 정의(Schema)가 LLM의 컨텍스트 창을 과도하게 점유하는 현상이 데이터로 확인됐다. GitHub, Slack, Sentry 등 일반적인 도구 조합을 사용할 경우, 실제 대화가 시작되기도 전에 약 55,000개의 토큰이 도구 설명과 정의를 위해 소모된다.

Scalekit의 벤치마크 결과에 따르면, 동일한 작업을 수행할 때 MCP 방식은 기존 CLI 방식에 비해 최소 4배에서 최대 32배 더 많은 토큰을 사용한다. 대규모 테스트에서는 전체 200,000 토큰 중 143,000 토큰이 스키마 정의에만 할당되어 모델의 실제 추론 능력을 발휘할 공간이 급격히 줄어든다.

Apideck은 모든 정의를 미리 로드하는 대신 '점진적 공개(Progressive Disclosure)' 방식을 사용하는 CLI 대안을 제시했다. 이 방식은 약 80토큰의 시스템 프롬프트만으로 시작하며, 에이전트가 필요할 때마다 --help 명령어를 통해 기능을 탐색하도록 설계되어 토큰 효율성을 극대화한다.

실제 회계 쿼리 테스트에서 MCP 방식은 10,000개 이상의 토큰을 소모한 반면, CLI 기반의 점진적 공개 방식은 약 400개의 토큰만으로 동일한 결과를 얻었다. 이는 MCP의 오버헤드가 단순한 이론적 우려를 넘어 실제 운영 비용과 성능에 막대한 영향을 미치고 있음을 시사한다.

용어 해설

모델 컨텍스트 프로토콜(MCP): — Anthropic이 발표한 오픈 표준으로, AI 모델이 로컬 데이터나 타사 서비스의 도구와 안전하고 쉽게 연결될 수 있도록 돕는 프로토콜이다. 표준화된 인터페이스를 제공하여 에이전트 구축을 간소화하지만, 모든 도구 정의를 컨텍스트에 포함해야 하는 구조적 특성이 있다.
컨텍스트 창(Context Window): — 대형 언어 모델이 한 번의 추론 과정에서 동시에 처리하고 기억할 수 있는 텍스트(토큰)의 최대 범위를 의미한다. 이 창이 가득 차면 모델은 이전 내용을 잊거나 새로운 입력을 처리하지 못하며, 사용량에 따라 비용이 발생한다.
점진적 공개(Progressive Disclosure): — 사용자나 시스템에 필요한 정보만 우선적으로 보여주고, 세부 사항은 요청이 있을 때만 단계적으로 제공하는 인터페이스 설계 원칙이다. LLM 환경에서는 초기 프롬프트 크기를 줄이고 필요한 시점에만 도구 정의를 로드하여 토큰 효율성을 높이는 데 사용된다.
토큰 오버헤드(Token Overhead): — 실제 사용자의 질문이나 모델의 답변 외에, 시스템 프롬프트, 도구 정의, 스키마 설명 등 프로토콜 운영을 위해 부가적으로 소모되는 토큰 비용을 의미한다. 오버헤드가 크면 실제 추론에 사용할 수 있는 컨텍스트 공간이 줄어들고 비용이 상승한다.

기술

MCP
Apideck
Scalekit

활용 사례

멀티 도구 에이전트 구축
API 통합 워크플로 최적화
LLM 비용 절감 전략

언급된 리소스

문서Apideck