이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.
TL;DR
Fanatics Betting and Gaming은 주별 스포츠 베팅 규정과 경기 중 급증하는 문의를 처리하기 위해 Amazon EKS, Amazon Bedrock, MCP를 결합한 멀티 에이전트 고객 지원 시스템을 구축했습니다. 고객 메시지는 Guardrails와 Amazon Nova 2 Lite 기반 Responsible Gaming 분류를 거친 뒤 Claude Sonnet Supervisor Agent가 RAG, 계정·거래 조회, 상담원 전환 도구를 선택해 응답을 구성합니다. 자체 RAG 파이프라인은 Amazon Titan V2 임베딩과 MongoDB Atlas를 사용하고, 주별 문서와 일반 문서를 함께 검색해 관할 지역별 답변을 만듭니다. 배포 첫 두 달 동안 containment rate는 약 56%, resolution rate는 약 53% 향상됐으며, LLM-as-a-Judge와 실제 대화 재생을 활용한 지속적인 평가로 품질을 개선하고 있습니다.
섹션별 상세
Fanatics Betting and Gaming은 미국 주마다 결제 수단, 입금 한도, 출금 기한, 책임 있는 게임 규정이 달라 단일 결정 트리형 챗봇으로는 정확한 답변을 유지하기 어려운 고객 지원 문제에 직면했습니다. 주요 스포츠 경기 때는 2분마다 40건이 넘는 문의가 몰릴 수 있고, 계정 설정부터 거래 내역과 도박 중단 옵션까지 질문 유형도 넓어 단일 모델이나 지식 기반만으로 전체 요청을 처리하기 어렵습니다. FBG는 고객 메시지의 복잡성과 급격한 트래픽을 함께 처리하면서도 문제성 도박 징후를 실시간으로 감지하고 필요한 경우 사람에게 넘기는 멀티 에이전트 구조를 선택했습니다.
FBG의 시스템은 고객 메시지를 모바일 앱과 Salesforce Einstein을 거쳐 Amazon EKS의 Spring AI 서비스로 보내고, REST 호출과 토큰 검증 뒤 Amazon Bedrock Guardrails 및 Responsible Gaming 분류 에이전트를 통과시킵니다. 이후 Anthropic Claude 기반 Supervisor Agent가 고객 의도에 따라 RAG, 계정 및 거래 내역 MCP 서버, 상담원 전환 도구를 호출하고 각 결과를 하나의 자연어 답변으로 통합합니다. 전문 에이전트와 도구가 명확한 책임을 나누므로 새로운 지식 도메인이나 사업 부문을 추가할 때 핵심 시스템을 다시 작성하지 않아도 됩니다.
Amazon EKS는 Spring AI 서비스와 MCP 서버를 Kubernetes 서비스로 호스팅해 각 구성 요소를 수요에 따라 독립적으로 확장하도록 합니다. MCP 서버는 계정 서비스와 거래 내역 서비스에 REST 요청을 보내는 도구를 노출하고, RAG와 Transfer-to-Human 도구는 Spring AI 서비스 내부에서 직접 실행됩니다. 새로운 MCP 서버는 Kubernetes 배포로 추가할 수 있고 기존 MCP 서버에 도구를 더할 때 새 파드 배포가 필요하지 않아 기능별 변경과 운영 확장을 분리할 수 있습니다.
FBG는 관리형 지식 기반 대신 수집, 분할, 검색 과정을 직접 제어하는 RAG 파이프라인을 만들었습니다. 주별 결제 가이드와 FAQ 같은 문서를 고정 토큰 수의 세그먼트로 나눈 뒤 Amazon Titan V2 임베딩을 생성해 MongoDB Atlas 벡터 저장소에 넣고, 고객 질문은 LLM으로 검색에 적합한 형태로 변환한 후 유사도 검색을 거칩니다. 관할 지역 질문에는 주별 검색과 일반 검색을 함께 적용하며, 대화 분석을 통해 매달 수백 개의 문서가 추가되므로 규정이 복잡한 도메인에서 문서 조합을 세밀하게 통제할 수 있습니다.
Responsible Gaming 분류 에이전트는 Amazon Nova 2 Lite를 사용해 현재 메시지와 전체 대화 이력을 함께 평가하고, 단일 키워드가 아니라 대화가 악화되는 패턴을 판별합니다. 명확한 예시와 제한된 결과값을 가진 분류 업무에는 작고 빠른 모델을 배치해 지연과 비용을 낮추고, 높은 심각도로 판정된 대화는 전체 문맥과 함께 즉시 사람 상담원에게 전환합니다. 낮은 심각도의 신호는 규정 준수 검토를 위해 기록하면서 대화를 계속 진행해 자동화와 안전 절차를 함께 유지합니다.
모델 선택은 업무별 요구 수준에 맞춰 Amazon Nova 2 Lite, Anthropic Claude Sonnet, Amazon Titan V2로 나뉩니다. Nova 2 Lite는 책임 있는 게임 분류, Claude Sonnet은 대화 관리와 도구 오케스트레이션, Titan V2는 RAG용 벡터 생성에 사용되며, Supervisor Agent는 모델 리전 간 round-robin 방식으로 요청을 분산해 피크 시간대 처리량 제한을 피합니다. 모든 모델을 동일한 Amazon Bedrock API로 호출하므로 인프라를 바꾸지 않고 업무별 모델을 교체할 수 있습니다.
배포 후 첫 두 달 동안 FBG 내부 지표에서 사람 상담원 개입 없이 해결된 문의의 비율인 containment rate가 약 56% 향상됐고, 실제 문제 해결을 나타내는 resolution rate도 약 53% 높아졌습니다. 시스템은 수천 건의 사례를 자율적으로 처리했으며, Amazon EKS 자동 확장이 MCP 서버와 Spring AI 서비스의 용량을 트래픽 증가에 맞춰 늘려 주요 스포츠 경기 중에도 응답 품질을 유지했습니다. 운영팀은 LLM-as-a-Judge로 모든 완료 대화를 평가하고, 관찰 가능성 지표에서 환각, 지연 시간, 비용을 추적하며 실제 고객 대화를 재생해 변경 사항의 엣지 케이스를 점검합니다.
FBG는 처음부터 20개가 넘는 사례 유형을 모두 자동화하지 않고, 해결 기준이 명확하고 문의량이 많은 4개 유형으로 시작했습니다. 초기 범위를 좁힌 상태에서 평가 파이프라인을 함께 구축하고 containment rate, resolution rate, 고객 만족도를 추적한 뒤 지식 공백과 프롬프트 문제를 먼저 수정하는 방식입니다. 모델을 더 큰 모델로 교체하기 전에 시스템 프롬프트의 모순과 도구 동작을 점검하고, 프롬프트 최적화가 끝난 뒤에만 모델 업그레이드를 고려해 비용 증가를 억제합니다.
용어 해설
- 멀티 에이전트 아키텍처(Multi-agent Architecture)
- — 하나의 거대한 챗봇 대신 여러 전문 에이전트가 역할을 나눠 요청을 처리하는 구조입니다. 오케스트레이션 에이전트가 고객 의도를 파악하고 검색, 계정 조회, 거래 내역 확인, 상담원 전환 같은 도구와 하위 에이전트를 선택해 결과를 통합합니다. 기능을 독립적으로 추가하거나 수정할 수 있어 복잡한 고객 지원 업무의 확장에 유리합니다.
- Model Context Protocol
- — 에이전트가 외부 기능과 표준화된 방식으로 통신하도록 만드는 프로토콜입니다. 이 시스템에서는 MCP 서버가 계정 서비스와 거래 내역 서비스에 REST 요청을 보내는 도구를 제공하고, Supervisor Agent가 필요한 도구를 동적으로 발견해 호출합니다. 업무 도메인이나 기능을 늘릴 때 기존 애플리케이션 전체를 다시 배포하지 않아도 되는 점이 핵심입니다.
- 검색 증강 생성(Retrieval Augmented Generation)
- — 질문과 관련된 외부 문서를 먼저 검색한 뒤 그 결과를 언어 모델의 응답 생성에 제공하는 방식입니다. FBG는 주별 결제 안내, FAQ, 책임 있는 게임 자료를 토큰 단위로 나누고 Amazon Titan V2로 벡터화해 MongoDB Atlas에 저장합니다. 주별 검색과 일반 검색을 결합해 관할 지역마다 다른 규정을 응답에 반영합니다.
- LLM 기반 자동 평가(LLM-as-a-Judge)
- — 언어 모델이 완료된 대화를 평가자로 판정해 응답이 고객 문제를 해결했는지 자동으로 분류하는 방식입니다. FBG는 이를 모든 완료 대화에 적용하고 운영팀이 매일 평가 결과를 확인해 에이전트가 취약한 사례를 개선 티켓으로 연결합니다. 실제 대화 로그와 평가 결과를 반복 활용해 배포 이후에도 품질을 높이는 피드백 루프를 구축합니다.
기술
- Amazon Elastic Kubernetes Service
- Amazon EKS
- Spring AI
- Amazon Bedrock
- Amazon Bedrock Guardrails
- Amazon Bedrock AgentCore
- Anthropic Claude Sonnet
- Amazon Nova 2 Lite
- Amazon Titan V2
- MongoDB Atlas
- Model Context Protocol
- MCP
- Retrieval Augmented Generation
- RAG
- Salesforce Einstein
- Strands Agents
활용 사례
- 주별 규정이 다른 스포츠 베팅 고객 지원
- 계정 및 거래 내역 조회
- 책임 있는 게임 위험 분류
- FAQ와 규정 문서 검색
- 피크 스포츠 경기 중 고객 문의 자동 처리
- 사람 상담원 전환이 필요한 민감한 대화 처리
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 08. 20.수집 2026. 08. 20.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
