120만 라인 규모 모노레포를 위한 시맨틱 코드 검색 및 RAG 구축 경험

대규모 코드베이스 RAG 구축의 어려움에 공감하며, 청킹 전략과 리랭킹의 중요성에 대해 동의하는 분위기이다.

• 코드 청킹 시 AST를 사용하여 함수나 클래스 단위로 분할하고 관련 독스트링을 함께 포함할 것.
• 검색 성능 향상을 위해 임베딩 검색 후 리랭커를 반드시 도입할 것.
• 전체 벡터 공간 검색 전 언어/모듈 단위의 메타데이터 필터링을 적용하여 지연 시간을 줄일 것.

• 코드 RAG 구축 시 토큰 기반 청킹 대신 AST 기반의 함수/클래스 단위 청킹을 우선 적용해야 한다.
• 범용 임베딩 모델보다 코드 전용 모델을 사용해야 코드 고유의 문맥과 로직을 정확히 임베딩할 수 있다.
• 검색 정확도 확보를 위해 리랭킹 단계는 필수적이며, 메타데이터 필터링을 통해 검색 범위를 최적화해야 한다.
• 코드와 관련 문서를 단일 인덱스로 통합하여 검색 시 문맥적 일관성을 유지해야 한다.