LangGraph를 활용한 로컬 에이전트 기반 RAG 시스템 학습용 저장소

실용적 조언

검색 정확도를 높이려면 작은 청크로 검색하고 부모 청크를 반환하는 계층적 인덱싱을 적용할 것
복잡한 쿼리는 맵-리듀스 패턴을 통해 병렬 서브 쿼리로 나누어 처리할 것
Langfuse와 같은 도구를 연동하여 에이전트의 추론 과정과 도구 사용 이력을 모니터링할 것

섹션별 상세

단순 RAG는 검색된 청크의 문맥이 부족하여 답변 품질이 저하되는 문제가 있다. 계층적 인덱싱은 작은 청크로 정밀하게 검색한 뒤 실제 추론 시에는 부모 청크를 불러와 풍부한 컨텍스트를 확보하는 구조이다. 공유된 저장소의 아키텍처 설계에서 Parent Document Retrieval 기법이 핵심 모듈로 구현되어 있다. 검색 효율성을 높이면서 정보 단절을 방지하여 고품질 답변 생성을 가능하게 한다.

사용자 질문이 모호하거나 초기 검색 결과가 부실할 경우 답변의 신뢰도가 떨어진다. LangGraph 기반 오케스트레이션은 쿼리를 재작성하거나 사용자에게 추가 정보를 요청하고 결과가 부족하면 자동으로 재검색을 수행한다. 자가 수정 및 쿼리 명확화 로직이 그래프 워크플로우 내에 포함되어 있다. 시스템이 독립적으로 판단하고 행동하는 에이전트적 특성을 강화하여 답변의 정확도를 높인다.

복잡하고 방대한 질문은 단일 검색만으로 모든 정보를 취합하기 어렵다. 멀티 에이전트 맵-리듀스 패턴은 복잡한 질문을 병렬 서브 쿼리로 분해하여 각 에이전트가 처리한 뒤 결과를 다시 합치는 방식이다. 저장소 내에 병렬 서브 쿼리 처리를 위한 Multi-Agent Map-Reduce 모듈이 구성되어 있다. 대규모 문서 질의의 정확도를 높이고 병렬 처리를 통해 응답 시간을 최적화한다.

긴 검색 루프가 반복되면 메모리 부하가 증가하고 모델의 집중력이 분산된다. 컨텍스트 압축 기술은 검색 결과에서 불필요한 정보를 제거하여 핵심 내용만 메모리에 유지하는 기술이다. 워킹 메모리를 가볍게 유지하기 위한 Context Compression 기능이 시스템 설계에 반영되어 있다. 효율적인 자원 관리와 함께 모델이 중요한 정보에만 집중하게 하여 추론 성능을 개선한다.

용어 해설

랭그래프(LangGraph): — LangChain에서 제공하는 상태 저장 멀티 에이전트 애플리케이션 구축용 라이브러리이다. 순환 구조를 지원하여 에이전트가 스스로 판단하고 작업을 반복하는 복잡한 워크플로우 설계에 필수적이다. 이를 통해 단순한 체인을 넘어선 지능형 시스템을 구현할 수 있다.
에이전트 기반 RAG(Agentic RAG): — 단순 검색 후 생성이 아닌 에이전트가 검색 전략을 결정하거나 결과를 평가하고 필요시 재검색하는 지능형 RAG 방식이다. 검색 품질을 동적으로 개선할 수 있어 고도화된 AI 앱 구현에 사용된다. 사용자의 복잡한 의도에 맞게 검색 과정을 스스로 최적화하는 것이 특징이다.
계층적 인덱싱(Hierarchical Indexing): — 문서를 작은 조각과 큰 조각으로 나누어 인덱싱하는 기법이다. 검색은 작은 조각으로 빠르게 수행하고 실제 답변 생성 시에는 큰 조각을 참조하여 문맥 이해도를 높인다. 정보의 정밀도와 풍부한 배경지식 제공이라는 두 마리 토끼를 잡는 데 효과적인 데이터 구조화 전략이다.
맵-리듀스(Map-Reduce): — 대규모 데이터를 분산 처리하기 위해 작업을 나누고 결과를 합치는 프로그래밍 모델이다. 에이전트 시스템에서는 복잡한 질문을 여러 하위 질문으로 나누어 병렬 처리할 때 활용된다. 전체 작업 시간을 단축하고 각 단계의 정확도를 독립적으로 관리할 수 있게 돕는다.
컨텍스트 압축(Context Compression): — LLM의 컨텍스트 윈도우 제한 내에서 핵심 정보만 남기고 중복되거나 불필요한 텍스트를 줄이는 기술이다. 추론 비용을 절감하고 모델이 중요한 정보에 집중하게 돕는다. 긴 검색 결과 중에서 답변에 꼭 필요한 부분만 선별하여 효율성을 극대화하는 역할을 한다.

언급된 도구

LangGraph추천

에이전트 오케스트레이션 및 워크플로우 제어

Langfuse추천

LLM 호출 및 그래프 실행 모니터링