챕터별 상세
01:53
전통적 RAG의 작동 원리와 한계
전통적 RAG는 PDF 문서를 청킹하고 임베딩 모델을 통해 벡터로 변환한 뒤 Pinecone이나 ChromaDB 같은 벡터 DB에 저장한다. 사용자 질의가 들어오면 질의를 벡터화하여 코사인 유사도 기반의 근사 근접 이웃(ANN) 검색을 수행하고 관련 컨텍스트를 LLM에 전달한다. 하지만 청킹 과정에서 문맥이 단절되거나, 유사도 점수가 실제 논리적 연관성과 일치하지 않아 정확한 답변을 생성하지 못하는 경우가 빈번하게 발생한다.
ANN(Approximate Nearest Neighbor)은 대규모 벡터 데이터에서 가장 유사한 항목을 빠르게 찾기 위한 알고리즘이다.
03:08
Vectorless RAG와 PageIndex 아키텍처
Vectorless RAG는 벡터 DB를 사용하는 대신 LLM Tree Builder를 통해 문서의 계층 구조를 생성한다. 문서를 목차(TOC) 기반으로 섹션별 요약본을 만들고 이를 JSON 트리 형태로 저장하여 관리한다. 검색 시 LLM이 트리의 루트부터 하위 노드까지 요약본을 읽으며 질의와 가장 관련 있는 섹션을 인간처럼 추론하며 찾아간다. 이 방식은 임베딩 파이프라인을 생략하므로 모델 변경 시 재임베딩이 필요 없는 유연성을 가진다.
PageIndex는 문서를 구조화된 트리로 변환하여 검색을 돕는 오픈소스 라이브러리이다.
08:15
두 아키텍처의 장단점 비교 분석
전통적 RAG는 수백만 개의 문서를 밀리초 단위로 검색할 수 있는 확장성과 속도가 최대 강점이다. 반면 Vectorless RAG는 문서의 구조를 보존하므로 여러 섹션에 걸친 복잡한 논리적 추론(Cross-section reasoning)에 매우 강력하다. 또한 Vectorless RAG는 LLM이 정보를 찾아간 경로를 명확히 제시할 수 있어 설명 가능성(Explainability)이 높지만, 트리 탐색을 위해 여러 번의 LLM 호출이 발생하므로 지연 시간과 토큰 비용이 상승한다.
python
from pageindex import PageIndex
pdf_path = "sample_document.pdf"
doc_id = PageIndex.upload(pdf_path)
print(f"Document ID: {doc_id}")PageIndex 라이브러리를 사용하여 PDF 문서를 업로드하고 인덱싱하는 기본 코드
19:17
실무 적용을 위한 결정 프레임워크
데이터가 수백만 건 이상이고 단순 사실 확인형 질의가 많다면 전통적 RAG를 선택하는 것이 경제적이다. 연례 보고서, 법률 계약서, 기술 매뉴얼처럼 구조가 복잡하고 정밀한 추론이 필요한 10~1,000권 규모의 문서에는 Vectorless RAG가 압도적인 성능을 보여준다. 최근 프로드 시스템에서는 벡터 검색으로 후보군을 좁힌 뒤 트리 구조로 정밀 탐색하는 하이브리드 패턴이 확산되고 있다. 최종 선택은 기술적 유행이 아닌 문서의 특성과 비즈니스 요구사항에 따라 결정해야 한다.
용어 해설
- 벡터 데이터베이스(Vector Database)
- — 데이터를 수치화된 벡터 형태로 저장하고 유사도 검색을 수행하는 저장소이다. 텍스트를 임베딩 모델을 통해 다차원 공간의 좌표로 변환하여 저장하며, 전통적인 RAG 아키텍처에서 관련 컨텍스트를 찾는 핵심 인프라 역할을 한다.
- 청킹(Chunking)
- — 긴 문서를 LLM의 컨텍스트 윈도우 크기에 맞춰 작은 조각으로 나누는 과정이다. 전통적인 RAG에서는 이 조각들을 개별적으로 임베딩하여 검색에 활용하지만, 잘못된 분할은 문맥의 단절을 초래할 수 있는 단점이 있다.
- 코사인 유사도(Cosine Similarity)
- — 두 벡터 사이의 각도를 측정하여 의미적 유사성을 판단하는 지표이다. 벡터 DB에서 사용자 질의와 가장 유사한 문서 조각을 찾을 때 사용되며, 단순 수치 비교이므로 실제 논리적 연관성과는 차이가 있을 수 있다.
- 계층적 인덱스(Hierarchical Index)
- — 문서를 목차, 섹션, 페이지 단위의 트리 구조로 조직화한 데이터 구조이다. Vectorless RAG에서 LLM이 인간처럼 문서의 구조를 탐색하며 필요한 정보를 찾아가는 지도로 활용되어 문맥 보존 능력이 뛰어나다.
언급된 리소스
GitHubPageIndex GitHub
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 05. 09.수집 2026. 05. 09.출처 타입 YOUTUBE
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
