TL;DR
nOps는 기존의 API 중심·다계층 인프라에서 발생하던 지연과 불일치를 줄이기 위해 Amazon Bedrock AgentCore를 중심으로 아키텍처를 재설계했습니다. 단일 Strands 기반 에이전트가 Databricks Metric Views로 거버닝된 분석 쿼리를 호출하고 Lakebase에 세션·캔버스 상태를 저장하며, 긴 집계는 DynamoDB·SNS·SQS와 WebSocket으로 비동기 처리해 UI에 실시간 업데이트를 제공합니다. 이 전환으로 프로덕션까지 걸리는 시간이 75% 단축되고 응답 정확도·도움됨 지표와 툴 실패율·운영 효율성이 눈에 띄게 개선되었습니다.
섹션별 상세
이미지 분석
다이어그램은 Vercel 호스팅 UI, Amazon Bedrock AgentCore 런타임, Databricks Lakehouse 계층, 그리고 DynamoDB·SNS·SQS 기반의 비동기 워크플로를 한 눈에 보여줍니다. 에이전트가 스트리밍으로 UI에 델타를 전송하고 비동기 작업 완료를 WebSocket으로 푸시하는 흐름과 Databricks Metric Views를 통한 의미론적 쿼리 경로가 명확하게 시각화되어 본문의 아키텍처 설명을 보완합니다. 운영·데이터·인터랙션 경계를 구분해 설계 의도와 각 구성요소의 역할을 빠르게 이해할 수 있도록 돕습니다.
nOps Clara 솔루션 아키텍처 다이어그램
용어 해설
- AgentCore 런타임(AgentCore runtime)
- — Amazon Bedrock AgentCore는 에이전트 실행을 위한 관리형 런타임으로 메모리, 큐, 가드레일과 관찰 가능성을 함께 제공하여 개발자가 인프라가 아닌 도메인 로직에 집중하도록 돕는다.
- Databricks Metric Views
- — Databricks Metric Views는 측정값과 차원을 거버닝된 방식으로 정의해 대화형 쿼리와 대시보드 사이의 일관성을 제공하는 의미론적 분석 계층이다.
- Databricks Lakebase
- — Databricks Lakebase는 서버리스 PostgreSQL 형태의 영구 상태 저장소로 세션, 캔버스, 위젯 스펙 같은 애플리케이션 상태를 저장해 채팅에서 생성된 인사이트를 지속 가능한 산출물로 전환한다.
- Server-Sent Events 스트리밍(Server-Sent Events streaming)
- — Server-Sent Events 기반 스트리밍은 모델 델타를 실시간으로 전송하고 실시간 캔버스 업데이트와 하트비트로 긴 실행 중에도 UI 연결을 유지하는 방식이다.
- 비동기 워크플로(대기열·알림·추적)(Async workflow (SNS/SQS/DynamoDB))
- — 비동기 워크플로는 DynamoDB로 작업을 추적하고 SNS/SQS로 알림·대기열을 처리한 뒤 API Gateway WebSocket으로 UI에 완료를 푸시해 장시간 분석을 백그라운드에서 실행하는 패턴이다.
코드 예제
SELECT a.account_name, SUM(
COALESCE(c.amortized_cost, 0)
- COALESCE(c.edp_discount_amount, 0)
- COALESCE(c.ppa_credit_amount, 0)
+ COALESCE(c.ri_effective_cost, 0)
+ COALESCE(c.sp_effective_cost, 0)
) AS true_customer_cost
FROM raw_cost_and_usage c
JOIN account_dim a ON c.account_id = a.account_id
LEFT JOIN pricing_adjustments p ON c.account_id = p.account_id AND c.usage_day = p.usage_day
WHERE c.usage_day >= date_sub(current_date(), 30)
AND c.usage_day < current_date()
GROUP BY account_name
ORDER BY true_customer_cost DESC;원문에서 제공한 예제 SQL은 'True Customer Cost'를 집계하는 로직을 보여주며, 원시 테이블에 할인·크레딧·약정(Reserved Instances, Savings Plans) 보정을 적용한 후 계정별로 합산하는 과정을 담고 있습니다. 이 쿼리는 Metric Views로 대체했을 때 비즈니스 로직을 일관되게 재사용할 수 있음을 설명하는 맥락에서 제시되었습니다.
근거 모음
- 개발 속도는 자체 관리 EKS 스택에서 AgentCore 기반으로 전환한 뒤 평균 프로덕션 도달 시간이 10–12개월에서 4개월로 줄어 75% 단축되었다. — Outcome 섹션의 'Development velocity' 문단에서 수치와 비교가 제공됨.
- 응답 정확도 Correctness 점수는 81.7%로 이전 기간 대비 145% 향상되었고, Helpfulness 점수는 79.4%로 138% 향상되었다. — Outcome 섹션의 'Response quality' 항목에 개선된 퍼센트와 비교 수치가 명시되어 있음.
- 툴 실패율은 이전의 7.49%에서 AgentCore와 새로운 툴 호출 방식 도입 후 0.92%로 감소했다. — Outcome 섹션의 도구 실패율 감소 수치가 포함된 문단.
- 수동 분석에 소요되는 시간은 고객 성공팀·솔루션 아키텍트의 경우 평균 2시간에서 30분으로 약 75% 감소했다. — Outcome 섹션의 'Operational efficiency' 항목에 시간 단축 수치가 제시됨.
기술
- Amazon Bedrock AgentCore
- Strands
- Databricks Lakehouse Metric Views
- Databricks Lakebase (serverless PostgreSQL)
- Databricks SQL Warehouse
- Amazon DynamoDB
- Amazon SNS
- Amazon SQS
- Amazon API Gateway WebSocket
- Vercel Next.js
- Server-Sent Events (SSE)
활용 사례
- 대규모 멀티테넌트 FinOps 분석에서 사용자별 세션·캔버스 상태를 유지하면서 대화형으로 비용 분석을 제공하는 경우에 적합합니다. 에이전트가 Metric Views를 호출해 일관된 비즈니스 로직으로 집계를 제공하므로 채팅 응답과 대시보드 결과가 일치해야 하는 시나리오에서 유용합니다. 또한 장시간 집계 작업을 비동기화해 실시간 UI 업데이트를 유지해야 하는 제품에서 적용성이 높습니다.
언급된 리소스
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
