이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.
TL;DR
Natera는 암 환자의 자택 채혈 예약을 자동화하기 위해 Twilio, 실시간 음성 모델, Amazon Bedrock AgentCore를 이중 WebSocket 구조로 연결했습니다. AgentCore 런타임은 전화 스트림과 모델 통신 사이에서 도구 호출을 조정하고, 외부 API가 처리되는 동안 도구별 지연에 맞춘 filler 음성을 병렬 생성해 무음 구간을 줄입니다. 전화번호 해시 기반 비인증 세션에서 검증된 환자 ID 세션으로 대화 기록을 이전하는 점진적 인증과 AgentCore Memory, Knowledge Bases를 결합해 개인화와 RAG 응답을 구현했습니다. 500회 시뮬레이션에서 도구 호출 정확도 100%, 중앙값 인지 지연 6.8초, 완료 통화당 비용 0.01달러 미만을 기록했으며, 운영 중에는 4주간 4,744건의 통화를 처리하고 30초 미만 단기 통화 비율을 22%에서 12%로 낮췄습니다.
섹션별 상세
Natera는 암 환자의 자택 채혈 예약 과정에서 여러 날짜와 위치를 수집하고, 환자 인증·SMS 확인·외부 공급업체 조율을 거쳐 예약을 확정해야 하는 복잡성을 해결하기 위해 음성 에이전트를 구축했습니다. Amazon Bedrock AgentCore는 컨테이너 인프라를 직접 확장하지 않고도 에이전트를 실행하며, 도구 호출·모델 추론·메모리 검색의 단계별 추적을 제공해 의료 환경의 정확성과 지연 원인 파악을 지원합니다. 이 구조는 500회 종단 간 통화 시뮬레이션에서 도구 호출 정확도 100%, 완료 통화당 비용 0.01달러 미만을 기록했습니다.
Natera의 음성 에이전트는 Twilio와 실시간 음성 처리 API 사이에 AgentCore 런타임을 배치하는 이중 WebSocket 브리지로 구성됩니다. Twilio는 환자의 음성 스트림을 전달하고, 에이전트는 두 번째 WebSocket으로 모델과 통신하면서 도구 호출을 가로채 외부 업무 로직을 실행한 뒤 결과를 대화 맥락에 다시 주입합니다. 전화 연결과 모델을 독립적으로 교체할 수 있다는 점이 핵심 장점이지만, 두 연결의 수명과 세션 상태를 함께 관리해야 하므로 단순한 단일 질의 시스템에는 과도한 구조가 될 수 있습니다.
도구 호출 중 침묵을 줄이기 위해 에이전트는 도구별 지연 분포에서 얻은 P50 값보다 1초 앞선 시점에 짧은 filler 응답을 병렬 생성합니다. 대표적으로 인증 API의 평균 지연은 2.5초, 예약 API는 4초였고, 인증과 예약의 filler 시작 시점은 각각 1.5초와 3.0초로 설정됐습니다. 도구가 먼저 끝나면 filler를 억제하고, 오래 걸리면 “Let me pull up your available time slots”와 같은 맥락 응답을 음성으로 삽입해 3~5초의 무음 구간을 완화합니다.
인증은 전화번호를 SHA-256으로 해시한 값을 actor ID로 사용하는 비인증 세션에서 시작하고, 개인 식별자 검증이 끝나면 검증된 환자 ID를 actor ID로 갖는 인증 세션으로 전환됩니다. 에이전트는 두 세션의 기록을 AgentCore Memory API로 이전하고 이전 세션을 병합 처리해, 환자가 인증 전에 말한 내용을 반복하지 않도록 합니다. 이 점진적 신뢰 구조는 일반 질문에는 낮은 인증 수준을 허용하면서 예약 확정이나 건강 기록 접근 같은 민감한 작업에는 전체 인증을 요구합니다.
환자별 맥락은 AgentCore Memory의 단기·장기 기록과 Amazon MSK 및 AWS Lambda 이벤트 파이프라인에서 결합됩니다. 웹 포털, SMS, 이메일, 통화에서 발생한 활동 이벤트를 Lambda가 소비해 메모리에 요약하고, Amazon DynamoDB가 메모리의 영속 저장소로 동작합니다. FAQ와 절차 문서는 Amazon S3에 저장하고 Amazon Titan Text Embeddings V2로 벡터화한 뒤 Amazon Bedrock Knowledge Bases에서 검색하며, 200개 대표 문의를 대상으로 일반 환자 질문 응답 정확도가 90%를 넘었습니다.
Natera는 Amazon ECS에서 AgentCore 런타임으로 이전하면서 음성 오케스트레이션 로직을 컨테이너 전용 코드에서 분리하고 AgentCore handler 방식으로 진입점을 바꿨습니다. 컨테이너 로컬 메모리에 있던 상태는 actor ID 기반 외부 상태로 재설계했으며, 장시간 WebSocket은 런타임 컨텍스트 내부의 연결 풀로 통화가 끝날 때까지 유지했습니다. 검증 과정에서 중앙값 인지 지연은 6.8초, Bedrock 구간은 6.2초였고, 한 공급업체 API가 체감 지연의 70%를 차지해 단계별 추적 없이는 잘못된 병목을 최적화할 가능성이 드러났습니다.
용어 해설
- 이중 WebSocket 브리지 패턴(Dual-WebSocket Bridge Pattern)
- — 전화 통신 스트림과 실시간 음성 모델을 각각 별도의 WebSocket으로 연결하고, 중간 오케스트레이터가 양쪽 데이터 흐름과 도구 호출을 조정하는 구조입니다. 양쪽 시스템을 독립적으로 교체할 수 있지만 상태 관리 복잡성이 커집니다.
- 이벤트 기반 지연 마스킹(Event-Driven Latency Masking)
- — 백엔드 도구 호출이 진행되는 동안 짧은 맥락 인식 음성 응답을 병렬 생성해 사용자가 침묵을 지연으로 느끼지 않게 하는 방식입니다. 도구별 P50 지연에서 1초를 뺀 시점을 기준으로 filler를 실행합니다.
- 점진적 신뢰 모델(Progressive Trust Model)
- — 사용자 인증 수준에 따라 대화 기록과 개인정보 접근 권한을 단계적으로 확대하는 인증 방식입니다. 전화번호 해시 기반의 비인증 세션에서 검증된 환자 ID 세션으로 대화 기록을 이전해, 초기부터 전체 인증을 요구하지 않으면서 민감한 작업은 보호합니다.
- AgentCore Memory
- — 현재 대화와 여러 세션에 걸친 사용자 활동을 저장하고 검색하는 Amazon Bedrock AgentCore의 메모리 기능입니다. Natera는 비인증·인증 세션의 actor ID를 분리하고 대화 기록을 이전해 세션 간 연속성과 개인화된 응답을 구현합니다.
- 검색 증강 생성(Retrieval-Augmented Generation)
- — 질문과 관련된 외부 문서를 검색한 뒤 그 내용을 생성 모델의 응답 맥락으로 주입하는 방식입니다. Natera는 Amazon Bedrock Knowledge Bases와 Amazon Titan Text Embeddings V2로 FAQ와 절차 문서를 검색해 환자 문의에 답변합니다.
기술
- Amazon Bedrock AgentCore
- Amazon Bedrock
- Twilio
- OpenAI Realtime API
- Amazon ECS
- Amazon Bedrock Knowledge Bases
- Amazon Titan Text Embeddings V2
- Amazon S3
- Amazon DynamoDB
- Amazon Managed Streaming for Apache Kafka
- AWS Lambda
- Amazon CloudWatch Logs
- Amazon Bedrock Guardrails
- SHA-256
활용 사례
- 환자의 자택 채혈 예약을 위한 음성 상담과 예약 확정에 활용됩니다.
- 인증 전 일반 문의와 인증 후 개인정보 기반 예약 작업을 하나의 대화 흐름으로 처리하는 데 활용됩니다.
- FAQ, 절차 안내, 보험 보장 문의에 검색 증강 생성으로 답변하는 데 활용됩니다.
- 의료·생명과학처럼 개인정보와 규제 요건을 함께 처리해야 하는 음성 AI 시스템에 적용할 수 있습니다.
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 08. 27.수집 2026. 08. 27.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
