Amazon Bedrock Knowledge Bases를 활용한 Ring의 글로벌 고객 지원 확장 사례

섹션별 상세

기존 Amazon Lex 기반 규칙 시스템은 복잡한 문의 대응에 한계가 있었고, 상담원 연결률이 16%에 달해 운영 효율 개선이 시급했다. 정해진 대화 패턴 외의 다양한 고객 질문을 처리하지 못해 엔지니어들이 시스템 유지보수에 시간의 10%를 소모하는 병목 현상이 발생했다. 이를 해결하기 위해 유연한 응답 생성이 가능한 RAG 아키텍처로의 전환을 결정했다.

근거

기존 시스템에서는 상담원 연결률이 16%에 달했다. — The support evolution journey for Ring 섹션

지역별 전압 규격이나 규제 등 상이한 정보를 처리하기 위해 contentLocale 태그를 활용한 메타데이터 필터링 기술을 적용했다. 단일 지식 저장소 내에서 각 국가에 맞는 데이터만 선별적으로 검색함으로써 지역별로 별도의 인프라를 구축할 필요를 없앴다. 이 방식은 영국, 독일 등 10개 이상의 지역에서 일관된 고객 경험을 제공하는 기반이 됐다.

python

## Metadata Filtering for Regional Content Targeting
num_results = 10
market = "en-GB"
knowledge_base_id = "A2BCDEFGHI"
user_text = "How can I replace the doorbell battery?"

# Configure Regional content filtering
vector_search_config = {"numberOfResults": num_results}
vector_search_config["filter"] = {
    "equals": {
        "key": "contentLocale",
        "value": market
    }
}

# Run Amazon Bedrock Knowledge Base search
response = boto3.client("bedrock-agent-runtime").retrieve(
    knowledgeBaseId=knowledge_base_id,
    retrievalQuery={"text": user_text},
    retrievalConfiguration={
        "vectorSearchConfiguration": vector_search_config,
    },
)

사용자의 지역(market) 정보를 기반으로 특정 언어 및 지역의 콘텐츠만 검색하도록 메타데이터 필터를 적용하는 예시

콘텐츠 관리 프로세스를 '수집 및 평가(Ingestion & Evaluation)'와 '승인(Promotion)' 단계로 분리하여 운영 안정성을 확보했다. 콘텐츠 팀이 S3에 문서를 업로드하면 Lambda가 자동으로 메타데이터를 추출하고 분류하여 지식 베이스 소스 버킷에 저장한다. 이러한 분리 구조는 운영 중인 시스템에 영향을 주지 않고 지속적인 데이터 업데이트와 품질 검증을 가능하게 한다.

Ring의 데이터 수집 및 평가 워크플로우를 보여주는 아키텍처 다이어그램 — Diagram콘텐츠 팀이 S3에 데이터를 업로드한 후 Lambda와 Step Functions를 거쳐 지식 베이스가 생성되고, 최종적으로 LLM-as-a-judge를 통해 품질이 검증되어 Golden Data Source로 승격되는 8단계 과정을 상세히 설명한다. 이 구조는 운영 환경에 배포하기 전 데이터의 품질을 보장하는 핵심 메커니즘을 시각화한다.

AWS Step Functions를 통해 매일 새로운 지식 베이스 버전을 생성하고 Anthropic Claude Sonnet 4를 판사(Judge)로 활용해 자동 평가를 수행한다. 평가 데이터셋을 기반으로 각 버전의 검색 정확도와 응답 품질을 비교 분석하며 결과는 Tableau 대시보드에 시각화된다. 가장 우수한 성능을 보인 버전은 'Golden Data Source'로 승격되어 실제 챗봇 서비스에 즉시 반영된다.

중앙 집중식 아키텍처를 채택하여 지역별 개별 인프라 배포를 제거함으로써 새로운 지역 확장 시 발생하는 비용을 기존 대비 21% 절감했다. 분석 결과 리전 간 지연 시간이 전체 응답 시간의 10% 미만임을 확인하여 비용 효율적인 중앙 집중형 모델을 선택할 수 있었다. 또한 최대 30일간의 버전 관리 기능을 통해 콘텐츠 오류 발생 시 즉각적인 롤백이 가능한 환경을 구축했다.

고객 쿼리 처리 및 응답 생성을 담당하는 프로모션 워크플로우 다이어그램 — Diagram사용자의 질문이 챗봇을 통해 들어오면 Lambda가 메타데이터 필터링을 적용해 지식 베이스에서 관련 정보를 검색하고, 이를 LLM에 전달해 최종 답변을 생성하는 4단계 실시간 추론 흐름을 보여준다. 검증된 Golden Data Source만을 사용하여 응답의 신뢰성을 높이는 과정을 설명한다.

근거

Ring은 각 추가 지역에 대한 확장 비용을 21% 절감했다. — Introduction 섹션 및 Conclusion 섹션
리전 간 지연 시간은 전체 응답 시간의 10% 미만을 차지했다. — Performance and cost optimization 섹션

용어 해설

검색 증강 생성(RAG): — 외부 지식 베이스에서 관련 정보를 검색하여 LLM의 응답 생성에 활용하는 기술이다. 모델의 학습 데이터에 없는 최신 정보나 특정 기업의 내부 문서를 기반으로 정확한 답변을 생성하게 함으로써 할루시네이션을 줄이는 역할을 한다. 실시간으로 업데이트되는 고객 지원 문서 등을 처리할 때 필수적이다.
LLM 기반 평가(LLM-as-a-Judge): — 고성능 LLM을 사용하여 다른 AI 모델의 응답 품질이나 검색 결과의 정확도를 자동으로 평가하는 방식이다. 사람이 직접 평가하는 비용과 시간을 획기적으로 줄이면서도 일관된 기준에 따라 대규모 데이터셋을 검증할 수 있게 한다. Ring의 사례에서는 Claude Sonnet 4가 이 역할을 수행하여 최적의 지식 베이스 버전을 선정한다.
메타데이터 필터링(Metadata Filtering): — 벡터 검색 시 특정 속성(메타데이터)을 기준으로 검색 범위를 제한하는 기법이다. 수만 개의 문서 중 현재 사용자의 지역이나 언어에 맞는 데이터만 골라내어 검색 정확도를 높이고 오답률을 낮춘다. 다국어 서비스를 단일 인프라에서 운영할 때 핵심적인 역할을 한다.
교차 리전 추론(Cross-Region Inference): — 트래픽 급증 시 현재 리전의 할당량을 초과하는 요청을 다른 가용 리전으로 자동 라우팅하여 처리하는 기술이다. 이를 통해 단일 리전의 쿼터 제한을 극복하고 서비스 가용성을 극대화할 수 있다. 데이터 보관 위치는 유지하면서 계산 자원만 유연하게 확장하는 것이 특징이다.

기술

Amazon Bedrock Knowledge Bases
Amazon Bedrock
AWS Lambda
AWS Step Functions
Amazon S3
Anthropic Claude Sonnet 4
Amazon OpenSearch Serverless

활용 사례

다국어 고객 지원 챗봇
자동화된 지식 베이스 품질 평가
글로벌 콘텐츠 관리 시스템

언급된 리소스

문서Amazon Bedrock Knowledge Bases Documentation

Amazon Bedrock Knowledge Bases를 활용한 Ring의 글로벌 고객 지원 확장 사례

섹션별 상세

용어 해설

기술

활용 사례

언급된 리소스

관련 토론

댓글

관련 기사

기초 RAG 핵심 원리·프로세스와 적용 시나리오 선택

Amazon Bedrock 기반으로 PoC를 프로덕션화해 의료 콘텐츠 검토와 생성 파이프라인을 고도화한 Flo Health 사례

관련 토론

댓글

관련 기사

기초 RAG 핵심 원리·프로세스와 적용 시나리오 선택

Amazon Bedrock 기반으로 PoC를 프로덕션화해 의료 콘텐츠 검토와 생성 파이프라인을 고도화한 Flo Health 사례