핵심 요약
코딩 에이전트의 성능 향상을 위해 Cursor는 모든 정보를 프롬프트에 미리 주입하는 정적 방식에서 벗어나, 에이전트가 필요할 때 정보를 찾아 쓰는 다이내믹 컨텍스트 디스커버리(Dynamic Context Discovery) 패턴을 도입했다. 이 방식은 도구 응답, 채팅 기록, MCP 도구, 터미널 세션 등을 파일 형태로 관리하여 에이전트가 검색을 통해 필요한 부분만 컨텍스트에 포함하도록 한다. 이를 통해 컨텍스트 창의 비대화를 막고 정보 혼선을 줄여 응답 품질을 개선했다. 특히 MCP 도구 활용 시 토큰 사용량을 약 46.9% 절감하는 성과를 거두었으며, 향후 모든 사용자에게 적용될 예정이다.
배경
LLM 컨텍스트 윈도우 및 토큰 개념, MCP(Model Context Protocol)에 대한 기본 이해, 파일 시스템 및 터미널 명령어 지식
대상 독자
AI 코딩 도구 개발자 및 LLM 에이전트 시스템 아키텍트
의미 / 영향
컨텍스트 윈도우가 커지더라도 모든 정보를 주입하는 것은 비효율적이며, 파일이라는 고전적인 추상화를 통해 에이전트의 탐색 능력을 극대화하는 방향이 실무적 해법임을 시사한다.
섹션별 상세
이미지 분석
컨텍스트 한계에 도달했을 때 대화 내용을 요약하고, 에이전트가 요약본에서 놓친 정보를 과거 채팅 기록 파일에서 검색하여 메타데이터를 업데이트하는 워크플로우를 시각화했다. 이는 요약 과정에서의 정보 손실을 보완하는 메커니즘을 설명한다.
컨텍스트 제한 초과 시 과거 채팅 내역을 참조하여 요약의 일관성을 유지하는 과정을 보여주는 다이어그램이다.
동적 컨텍스트 발견 기법을 적용한 후 전체 에이전트 토큰 사용량이 46.9% 감소했음을 수치로 보여준다. 시스템 지침, 도구 설명, MCP 파일 액세스 등 각 항목별 토큰 비중 변화를 시각적으로 확인할 수 있다.
MCP 도구의 동적 컨텍스트 발견 도입 전후의 토큰 사용량 변화를 비교한 차트이다.
실무 Takeaway
- 모든 컨텍스트를 프롬프트에 넣기보다 파일 시스템을 중간 매개체로 활용해 에이전트가 필요한 정보만 가져오게 설계하여 토큰 비용을 최적화한다.
- MCP 도구 사용 시 도구 전체 설명을 주입하는 대신 이름 기반의 인덱싱과 동적 조회를 결합하여 토큰 사용량을 46.9% 절감할 수 있다.
- 컨텍스트 요약 시 발생하는 정보 손실을 방지하기 위해 원본 대화 기록을 파일로 보존하고 에이전트가 이를 검색할 수 있는 루프를 구축한다.
AI 요약 · 북마크 · 개인 피드 설정 — 무료