MCP 기반 지식 베이스 플랫폼 'Knowledge Raven' 개발기 및 RAG의 미래

실용적 조언

대규모 문서 검색 시 Parent-child retrieval을 적용하여 검색 정확도와 컨텍스트 보존의 균형을 맞추는 것이 좋다.
실시간 업데이트와 출처 인용이 중요한 기업용 서비스에는 파인튜닝보다 MCP 기반의 RAG 아키텍처를 우선 고려해야 한다.

섹션별 상세

작성자는 Claude Code를 주력 개발 도구로 사용하여 전체 플랫폼을 구축했다. Python 및 FastAPI 기반의 백엔드, MCP 도구 계층, 그리고 에이전틱 RAG 파이프라인을 구현하는 과정에서 Claude Code가 핵심적인 코딩 파트너 역할을 수행했다. 1인 개발자가 복잡한 엔터프라이즈급 아키텍처를 신속하게 설계하고 배포할 수 있었던 배경에는 이러한 AI 코딩 에이전트와의 긴밀한 협업이 있었다.

Knowledge Raven은 기업의 다양한 데이터 소스를 AI와 연결하는 MCP 패턴을 구현했다. Google Drive, Confluence, Notion, GitHub 등의 소스를 연결하면 MCP 호환 LLM이 해당 지식 베이스를 검색하고 특정 섹션을 인용할 수 있는 구조이다. 이는 AI 어시스턴트에게 단순한 메모리가 아닌, 권한 관리가 가능하고 구조화된 기업 지식 접근 권한을 부여하는 방식이다.

대규모 데이터 처리를 위해 고도화된 RAG 기술들을 통합 적용했다. Parent-child retrieval을 통해 검색 정확도를 높이고, Contextual embeddings와 Hybrid search를 결합하여 의미적 유사성과 키워드 매칭의 장점을 모두 취했다. 안드레 카파시가 제안한 소규모 스크립트 방식의 한계를 지적하며, 5만 페이지 이상의 대규모 문서와 실시간 동기화가 필요한 환경에서는 전문적인 에이전틱 RAG 인프라가 필수적임을 확인했다.

RAG와 파인튜닝의 역할 분담에 대한 명확한 기술적 입장을 정리했다. 파인튜닝은 모델 가중치에 정보를 고정시키기 때문에 출처 인용이 불가능하고 권한 제어나 실시간 정보 업데이트가 어렵다는 한계가 명확하다. 반면 MCP 기반의 RAG는 외부 도구를 통해 실시간 데이터에 접근하므로 기업용 지식 관리 시스템에서 대체 불가능한 가치를 지닌다.

용어 해설

모델 컨텍스트 프로토콜(MCP): — LLM이 외부 도구, 데이터 소스 및 서비스와 표준화된 방식으로 통신할 수 있도록 Anthropic에서 공개한 개방형 프로토콜이다. 이를 통해 서로 다른 AI 모델과 데이터 저장소 간의 상호운용성을 확보하고 에이전트의 도구 사용 능력을 확장한다.
에이전틱 검색 증강 생성(Agentic RAG): — 단순히 문서를 검색하여 전달하는 기존 RAG와 달리, AI 에이전트가 스스로 검색 도구를 호출하고 결과의 적절성을 판단하며 필요시 추가 검색을 수행하는 고도화된 아키텍처이다. 복잡한 질의에 대해 다단계 추론과 도구 활용을 결합하여 답변의 정확도를 높인다.
부모-자식 검색(Parent-Child Retrieval): — 문서를 작은 조각(child)으로 나누어 벡터 검색의 정확도를 높이되, 모델에게는 해당 조각이 포함된 더 큰 문맥(parent)을 제공하는 기법이다. 검색 효율성과 답변 생성에 필요한 충분한 맥락 제공이라는 두 마리 토끼를 잡는 전략이다.
문맥적 임베딩(Contextual Embeddings): — 단어의 고정된 벡터값 대신 주변 단어들과의 관계를 고려하여 의미를 수치화하는 기술이다. 동일한 단어라도 문장에 따라 다른 의미를 가질 수 있음을 반영하여 검색의 의미론적 정확도를 극대화한다.

언급된 도구

Claude Code추천

전체 플랫폼 개발 및 코딩 파트너

FastAPI중립

백엔드 서버 프레임워크

Knowledge Raven추천

MCP 기반 기업용 지식 베이스 플랫폼

언급된 리소스

DemoKnowledge Raven