Reffy: Databricks가 RAG와 에이전트를 활용해 구축한 고객 사례 검색 앱 개발기

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

Databricks는 사내에 파편화된 수천 개의 고객 성공 사례를 효율적으로 활용하기 위해 AI 에이전트 기반 앱 'Reffy'를 개발했다. 이 시스템은 웹 스크래핑과 AI 기반 채점 시스템을 통해 데이터를 정제하고, DSPy 프레임워크와 Vector Search를 활용해 고성능 RAG 아키텍처를 구현했다. 출시 2개월 만에 1,800명 이상의 직원이 사용하여 영업 및 마케팅 생산성을 크게 향상시켰으며, 향후 API 및 MCP 서버를 통한 외부 시스템 확장을 계획하고 있다.

배경

RAG(Retrieval-Augmented Generation) 기본 개념, Databricks 플랫폼 및 Unity Catalog에 대한 이해, Python 및 React 기반 웹 개발 기초

대상 독자

AI 에이전트 및 RAG 시스템을 프로덕션 환경에 구축하려는 데이터 엔지니어 및 앱 개발자

의미 / 영향

이 사례는 기업 내부의 파편화된 지식을 AI 에이전트로 통합했을 때의 실질적인 생산성 향상을 입증한다. 특히 단순 검색을 넘어 AI 기반의 데이터 품질 평가와 실시간 로그 분석을 결합한 풀스택 아키텍처가 기업용 AI 앱의 표준 모델이 될 수 있음을 보여준다.

섹션별 상세

파편화된 고객 사례 데이터의 '부족 지식(Tribal Knowledge)' 문제를 해결하기 위해 YouTube, 블로그, 내부 문서 등 2,400개 이상의 스토리를 통합 검색할 수 있는 Reffy를 구축했다.

ETL 파이프라인은 Lakeflow Jobs를 통해 오케스트레이션되며, Gemini 2.5 기반의 AI Functions를 사용하여 각 스토리의 비즈니스 가치와 품질을 31개 항목으로 자동 채점하고 메타데이터를 추출한다.

검색 엔진은 Databricks Vector Search와 리랭커(Re-ranker)를 사용하며, 단순 키워드 검색은 2초 이내에 처리하고 복잡한 질문에는 LLM 기반의 추론형 응답을 제공하는 하이브리드 방식을 채택했다.

에이전트 개발에는 DSPy 프레임워크를 도입하여 모델 서빙 엔드포인트 재배포 없이도 노트북 환경에서 로직을 반복 테스트하고 프롬프트를 최적화하여 개발 주기를 단축했다.

React와 FastAPI 기반의 Databricks Apps를 통해 프론트엔드를 구축하고, Lakebase를 사용하여 대화 기록 및 사용자 로그를 실시간으로 저장하여 지속적인 품질 개선에 활용한다.

AI/BI 대시보드를 통해 사용자 쿼리 패턴을 분석한 결과, 최신 제품인 Agent Bricks와 Lakebase에 대한 수요가 높음을 확인하고 데이터 보강 전략에 반영했다.

실무 Takeaway

비정형 데이터 검색의 정확도를 높이기 위해 AI Functions로 데이터를 사전에 채점하고 요약하는 'Gold' 테이블 구축 단계가 필수적이다.
DSPy 프레임워크를 활용하면 모델 서빙 엔드포인트 재배포 없이도 노트북 환경에서 에이전트의 로직과 프롬프트를 효율적으로 반복 개선할 수 있다.
단순한 챗봇을 넘어 AI/BI 대시보드와 연동하여 사용자 쿼리 패턴을 분석함으로써 콘텐츠의 공백(Gap)을 파악하고 데이터 전략에 반영할 수 있다.

언급된 리소스

문서Databricks Apps

튜토리얼RAG Guide