매번 RAG 파이프라인을 재구축하지 않기 위한 오픈소스 백엔드 구축 - 피드백 및 협업 환영

오픈 소스 기여와 피드백에 열려 있는 프로젝트로, 특히 멀티테넌트 설계 방식에 대한 관심이 높다.

• Qdrant의 컬렉션 격리 기능을 활용하여 멀티테넌트 RAG 시스템의 데이터 보안을 강화할 수 있다.
• LLM의 컨텍스트 윈도우를 동적으로 계산하여 검색 결과가 제한을 초과하지 않도록 관리해야 한다.

• RAG 파이프라인의 반복적인 구축을 피하기 위해 FastAPI와 Qdrant를 결합한 재사용 가능한 백엔드 아키텍처를 제안한다.
• 멀티테넌트 환경에서 챗봇별 벡터 격리를 위해 Qdrant 컬렉션 분리 및 Supabase RLS를 활용하는 실무적 접근법을 보여준다.
• LLM마다 다른 컨텍스트 제한에 대응하기 위해 동적인 윈도우 버젯팅과 요약 메모리 주입 기법을 적용하여 안정성을 높였다.