Agentic Financial Parser: LangGraph·Jina·Pinecone 기반 인도 재정·법률 문서용 자율 에이전트 아키텍처

작성자는 MCP와 LangGraph의 운영 경험, 특히 HITL 승인 흐름과 도구 분리, 환각 방지 전략에 대한 비교 의견을 요청했다. 게시물 본문에는 리포지토리 분리와 아키텍처 다이어그램, 구현 세부값(청크 개수, 벡터 차원 축소, 캐시 응답 시간 등)이 포함되어 있어 실무적 피드백을 유도할 수 있는 근거가 제시돼 있다. 댓글에서는 구체적 구현·운영 경험 공유와 MCP 표준화 관련 토론이 이어질 가능성이 크다.

• 긴 문서의 경우 먼저 문서를 청크화한 뒤 계층적 임베딩(MRL 등)을 적용하고 초기 검색 후 neural reranker로 상위 후보만 추려 생성 입력으로 사용하는 것이 응답 관련도를 높이는 실무적 패턴이다.
• 저장 비용 절감을 위해 임베딩 차원을 축소할 때는 축소 전후의 검색·생성 품질을 자동화된 샘플링으로 검증해야 신뢰도를 확보할 수 있다.
• 민감한 외부 액션은 LangGraph 내부에서 직접 수행하지 말고 MCP 같은 분리된 도구 레이어로 위임하고, 이메일 전송 등은 React 기반의 HITL 승인 절차로 일시 정지시켜 사람의 명시적 승인을 받는 것이 안전성 확보에 도움이 된다.

RAG

— 검색 증강 생성(RAG)은 외부 문서에서 관련 컨텍스트를 검색하여 그 내용을 모델 입력에 주입한 뒤 생성 작업을 수행하는 방식이다. 이 접근법은 모델 자체 지식이 부족한 영역에서 최신 정보나 긴 문맥을 제공하여 생성의 정확도를 높이는 데 사용된다. 본 게시물에서는 Pinecone에서 후보 청크를 뽑고 reranker로 상위 청크만 선별해 생성 입력으로 사용한 흐름이 RAG 패턴에 해당한다.

MCP

— MCP는 모델과 외부 도구 간의 호출과 컨텍스트 전달을 표준화하는 프로토콜로서, 도구 실행 로직을 모델 에이전트로부터 분리하는 데 목적이 있다. 본 시스템에서는 FastMCP 서버가 JSON-RPC/SSE를 통해 도구 요청을 수신하고 응답을 반환하는 형태로 MCP를 구현하여 LangGraph의 툴 노드와 분리된 실행 레이어를 구성했다. 도구 오케스트레이션과 상태 관리를 에이전트와 독립적으로 운영할 수 있어 재사용성과 안전성이 향상된다.

MRL

— Matryoshka Representation Learning(MRL)은 다층적·계층적 표현을 생성해 문서 내 다양한 수준의 의미를 포착하는 임베딩 기법이다. 게시물에서는 Jina v3의 MRL을 사용해 문서 청크를 임베딩하고 차원 축소(1024→256)를 통해 저장 비용을 줄이는 방식으로 적용했다. MRL은 계층적 표현 특성 때문에 긴 법률·재정 문서의 의미 일관성을 유지하면서 검색 효율을 높였다.

Neural Reranker

— Neural Reranker는 초기 검색 결과 후보를 신경망 모델로 정교하게 점수 매겨 상위 결과를 재선별하는 구성요소이다. 본 게시물에서는 Pinecone에서 넓게 후보를 수집한 뒤 Cohere의 reranker(cohere-rerank-v3)를 통해 상위 10개 'Golden Chunks'로 축약했다. 이 방식은 단순 거리 기반 검색의 잡음을 줄이고 생성 입력의 관련도를 높이는 역할을 한다.

HITL

— Human-in-the-Loop(HITL)는 자동화된 의사결정 플로우 중 민감하거나 불확실한 단계에서 사람의 승인이나 교정 과정을 끼워넣는 설계 패턴이다. 게시물에서는 모의 질문의 명확화, 이메일 송신과 같은 민감 액션에 대해 React 기반의 제네레이티브 UI로 명시적 인간 승인 절차를 삽입해 시스템이 상태를 일시 정지하고 사용자의 수동 확인을 받도록 했다. HITL은 오작동·환각(hallucination) 위험을 낮추는 안전 장치로 작동한다.