대규모 코드베이스 RAG를 위한 AST 기반 그래프 및 BM25 활용 접근법

작성자의 구조적 접근 방식에 대해 긍정적인 반응이 많으며, 특히 BM25가 코드 검색에서 임베딩보다 낫다는 점에 공감하는 분위기이다.

• 코드 RAG 구축 시 Tree-sitter를 활용하여 함수와 클래스 간의 관계를 먼저 추출하라
• 검색 엔진 구현 시 임베딩 모델 도입 전 BM25를 베이스라인으로 먼저 테스트하라
• 컨텍스트 부족 시 Mermaid 다이어그램으로 코드 구조를 시각화하여 LLM에 제공하라

AST

— 프로그래밍 언어의 소스 코드 구조를 트리 형태로 표현한 것입니다. 코드의 문법적 요소를 노드로 나타내어 단순 텍스트 청킹보다 정교한 코드 구조 분석과 관계 파악을 가능하게 합니다.

BM25

— 문서 내 단어 빈도와 희귀도를 기반으로 검색어와의 관련성을 점수화하는 알고리즘입니다. 코드의 함수명이나 변수명처럼 고유한 식별자를 정확하게 매칭해야 하는 상황에서 임베딩 기반 검색보다 유리합니다.

Tree-sitter

— 다양한 프로그래밍 언어를 위한 점진적 파싱 라이브러리입니다. 소스 코드를 분석하여 AST를 생성하며, 이를 통해 코드 내의 함수, 클래스, 임포트 관계 등을 구조적으로 추출할 수 있습니다.

Cross-Encoder

— 질문과 문서를 동시에 입력받아 둘 사이의 관계를 직접 계산하는 모델입니다. 연산 비용은 높지만 검색 결과의 순위를 재조정(Re-ranking)할 때 매우 높은 정확도를 제공합니다.