Weaviate Query Agent를 활용한 프로덕션급 법률 RAG 앱 구축 가이드

섹션별 상세

01

기존 Naive RAG 시스템은 법률 문서의 복잡한 필터링 요구사항을 충족하지 못하며 단순 시맨틱 유사성에 의존하여 부적절한 정보를 추출하는 경우가 많다. Query Agent는 데이터베이스를 단순 저장소가 아닌 도구 세트로 인식하여 질문 의도에 맞는 검색 전략을 자율적으로 수립하는 Agentic Search 방식을 채택한다.

에이전트 기반 검색과 일반 검색의 워크플로우 비교 다이어그램이다. — Diagram일반 검색은 정적인 키워드 매칭에 의존하는 반면, 에이전트 기반 검색은 Query Agent가 스키마 검사, 하위 쿼리 생성, 재순위화 및 답변 합성을 자율적으로 수행하는 과정을 보여준다. 이는 법률 데이터와 같은 복잡한 쿼리 처리에 에이전트 레이어가 왜 필요한지를 시각적으로 증명한다.

02

Query Agent는 스키마 검사, 구조화된 쿼리 생성, Rerank 하위 에이전트를 통한 정밀도 향상, Answer 하위 에이전트를 통한 근거 기반 답변 생성의 4단계 워크플로우를 수행한다. 이를 통해 개발자가 복잡한 검색 로직을 직접 코딩할 필요 없이 자연어 질문을 정교한 데이터베이스 쿼리로 변환한다.

03

PDF 문서 처리를 위해 OCR이나 텍스트 청킹 대신 ModernVBERT와 같은 멀티모달 모델을 사용하여 페이지 전체를 시각적 토큰으로 인코딩한다. Muvera 압축 기술은 생성된 방대한 멀티벡터 데이터를 효율적으로 관리하여 검색 품질을 유지하면서도 시스템 지연 시간과 메모리 비용을 획기적으로 낮춘다.

python

wvc.config.Configure.MultiVectors.multi2vec_weaviate(
    name="doc_vector",
    image_field="doc_page",
    model="ModernVBERT/colmodernvbert",
    encoding=wvc.config.Configure.VectorIndex.MultiVector.Encoding.muvera(
        ksim=4,
        dprojections=16,
        repetitions=20
    ),
)

멀티벡터 모델과 Muvera 압축을 적용한 Weaviate 컬렉션 벡터화 설정

04

데이터 아키텍처 설계 시 계약서의 성격에 따라 상업, 기업/IP, 운영 계약서로 컬렉션을 분리하여 검색 효율을 극대화한다. Query Agent는 질문의 맥락을 파악하여 가장 적합한 컬렉션으로 쿼리를 라우팅하며 각 페이지 단위의 메타데이터를 활용해 정밀한 필터링을 지원한다.

법률 RAG 애플리케이션의 전체 시스템 아키텍처 설계도이다. — DiagramPDF 문서가 멀티벡터 모델을 통해 인입되는 과정부터 Weaviate Cloud 내의 3개 컬렉션으로 분류 저장되는 구조를 설명한다. 사용자의 질문이 Query Agent를 거쳐 적절한 컬렉션으로 라우팅되고 생성 모델을 통해 근거가 포함된 답변으로 반환되는 전체 흐름을 명확히 제시한다.

05

실제 구현을 위해 weaviate/agent-skills를 설치하고 Claude Code나 Cursor와 같은 코딩 에이전트를 연동하여 개발 속도를 높인다. CUAD 법률 데이터셋을 활용해 데이터 인입부터 프론트엔드 인터페이스 연결까지 전체 파이프라인을 구축하는 구체적인 가이드를 제공한다.

bash

npx skills add weaviate/agent-skills
# 또는 Claude Code 플러그인 사용
/plugin install weaviate@weaviate-plugins

Weaviate Query Agent 기능을 사용하기 위한 에이전트 스킬 설치 명령어

구축된 법률 계약서 분석 앱의 실제 작동 데모 화면이다. — Screenshot사용자가 질문을 입력했을 때 에이전트가 생성한 답변과 함께 실제 근거가 되는 PDF 페이지 이미지가 소스로 표시되는 사용자 인터페이스를 보여준다. 이는 시스템이 단순히 텍스트를 생성하는 것이 아니라 실제 문서의 시각적 정보를 바탕으로 신뢰할 수 있는 답변을 제공함을 확인시켜 준다.

용어 해설

검색 증강 생성(RAG): — 외부 지식 베이스에서 관련 정보를 검색하여 대형 언어 모델의 답변 생성에 활용하는 기법이다. 모델의 내부 지식 한계를 극복하고 최신 정보나 특정 도메인의 데이터를 바탕으로 정확한 답변을 생성하게 돕는다. 법률 문서처럼 정밀도가 중요한 분야에서 환각 현상을 줄이는 핵심 기술이다.
멀티벡터 임베딩(Multi-vector Embedding): — 단일 텍스트나 이미지를 하나의 벡터로 표현하는 대신 여러 개의 벡터(토큰)로 나누어 표현하는 방식이다. PDF 페이지의 시각적 레이아웃이나 표 정보를 보존하는 데 유리하며 검색 시 더 세밀한 매칭이 가능하다. ColBERT와 같은 후기 상호작용 모델에서 주로 사용되는 고성능 검색 기법이다.
무베라(Muvera): — 멀티벡터 임베딩의 방대한 데이터 크기를 효율적으로 압축하는 기술이다. 검색 품질의 손실을 최소화하면서도 메모리 사용량과 검색 지연 시간을 획기적으로 줄여준다. 대규모 문서 집합을 다루는 프로덕션 환경에서 멀티벡터 모델을 실용적으로 사용할 수 있게 만드는 최적화 도구이다.
에이전트 기반 검색(Agentic Search): — 단순한 키워드 매칭을 넘어 AI 에이전트가 질문의 의도를 분석하고 검색 전략을 스스로 수립하는 방식이다. 스키마 검사, 쿼리 분할, 필터 생성 등을 자율적으로 수행하여 복잡한 질문에 대응한다. 정적 검색보다 훨씬 높은 정밀도를 제공하며 사용자의 복합적인 요구사항을 정확히 반영한다.
재순위화(Reranking): — 1차 검색 결과로 나온 문서들을 더 정교한 모델을 사용하여 다시 순위를 매기는 과정이다. 초기 검색의 속도와 최종 결과의 정확도 사이의 균형을 맞추는 역할을 한다. 법률 문서 검색에서 의미적 유사성뿐만 아니라 실제 질문과의 관련성을 극대화하기 위해 필수적으로 사용된다.

기술

Weaviate
Query Agent
ModernVBERT
Muvera
Claude Code
Python

활용 사례

법률 계약서 분석 및 검색
복잡한 금융 문서 RAG 시스템
멀티모달 PDF 지식 베이스 구축

언급된 리소스

논문CUAD Legal Contract Dataset

GitHubWeaviate Agent Skills GitHub