군집 기반 동적 RAG(CDRAG) 프레임워크 개발 및 성능 공유

실용적 조언

문서 양이 방대하고 의미적 층위가 다양한 경우 단순 유사도 검색 대신 CDRAG와 같은 군집 기반 라우팅 도입을 고려할 수 있다.
GitHub에 공개된 소스 코드를 통해 법률 도메인 등 정밀한 검색이 필요한 프로젝트에 CDRAG 아키텍처를 재현하고 적용 가능하다.

섹션별 상세

CDRAG는 전체 문서 코퍼스를 의미론적으로 일관된 그룹으로 사전 군집화하는 단계를 거친다. LLM은 각 군집의 내용을 요약하여 키워드를 생성하며, 이는 검색 시 쿼리와 군집 간의 연관성을 판단하는 기준이 된다. 사전 처리된 군집 구조를 통해 단순 Top-K 검색이 놓칠 수 있는 고차원적 추상화 수준의 관련 문서를 포착할 수 있다.

쿼리 시점에는 LLM이 쿼리를 분석하여 관련 있는 군집을 선택하고 각 군집에 문서 추출 예산(K)을 동적으로 할당한다. 선택된 군집 내에서만 코사인 유사도 검색을 수행함으로써 검색 예산이 전체 코퍼스에 맹목적으로 분산되는 것을 방지한다. 이러한 2단계 프로세스는 검색의 정밀도를 높이고 문맥에 적합한 정보 밀도를 확보하는 데 기여한다.

Legal RAG Bench 데이터셋의 100개 법률 질문을 대상으로 LLM 평가를 수행한 결과 표준 RAG 대비 우수한 성능을 보였다. 구체적으로 Faithfulness(충실도) 지표에서 12%, 전체 품질(Overall Quality)에서 8% 향상되었으며 총 6개 지표 중 5개에서 우위를 점했다. 법률 문서와 같이 구조적 이해가 중요한 도메인에서 군집 기반 라우팅의 실효성이 입증됐다.

이미지 분석

Diagram
왼쪽 섹션은 문서들을 계층적 군집화하고 LLM이 키워드를 추출하는 오프라인 준비 과정을 보여준다. 오른쪽 섹션은 사용자 쿼리가 들어왔을 때 LLM이 관련 군집을 선택하고 코사인 유사도를 통해 최종 컨텍스트를 구성하여 응답을 생성하는 온라인 추론 과정을 도식화하고 있다.
Clustered Dynamic RAG(CDRAG)의 전체 아키텍처와 처리 흐름을 보여주는 다이어그램이다.

용어 해설

계층적 군집화(Hierarchical Clustering): — 데이터를 유사도에 따라 계층 구조로 묶는 알고리즘이다. CDRAG에서는 전체 문서 코퍼스를 의미론적으로 일관된 그룹으로 사전 분류하여 검색의 구조적 기반을 마련하는 데 사용된다.
코사인 유사도(Cosine Similarity): — 두 벡터 사이의 각도를 측정하여 유사성을 계산하는 방식이다. RAG 시스템에서 쿼리 임베딩과 문서 임베딩 간의 거리를 측정하여 가장 관련성 높은 문서를 추출하는 표준 지표로 활용된다.
충실도(Faithfulness): — RAG 시스템의 평가 지표 중 하나로, 생성된 응답이 검색된 컨텍스트에 얼마나 근거하고 있는지를 측정한다. CDRAG는 표준 RAG 대비 이 지표에서 12% 향상을 기록했다.

언급된 리소스

GitHubClustered-Dynamic-RAG GitHub Repository