FastAPI와 LangGraph를 활용한 프로덕션급 RAG 시스템 구축 사례

작성자의 구체적인 아키텍처 공유에 대해 긍정적인 반응이며, 특히 LangGraph 루프 내에서의 컨텍스트 압축 방법과 하이브리드 검색 결합 방식에 대한 기술적 논의가 이어졌다.

• 재귀적 검색 시 무한 루프를 방지하기 위해 LangGraph의 서킷 브레이킹 기능을 반드시 활용해야 한다.
• 중복 임베딩으로 인한 비용 및 성능 저하를 막기 위해 멱등성(Idempotent) 수집 로직을 구현해야 한다.
• 민감한 데이터를 다루는 경우 LLM 전송 전 Presidio와 같은 도구로 PII를 마스킹하는 레이어를 추가한다.

• LangGraph는 복잡한 RAG 워크플로우에서 상태 관리와 순환 로직을 구현하는 데 매우 유용하다.
• 부모-자식 청킹 전략을 통해 검색 성능을 최적화하고 벡터 DB와 관계형 DB를 혼합 사용하는 것이 효과적이다.
• 프로덕션 환경에서는 PII 마스킹과 의도 분류 같은 보안 레이어 배치가 필수적이다.
• 순환 구조의 그래프에서는 컨텍스트 윈도우 초과를 방지하기 위한 압축 및 요약 전략이 중요하다.