이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.
TL;DR
API 모니터링에서 전통적인 평균 지연 시간 기반 탐지는 사소한 이상 징후를 놓치기 쉽다. JP Morgan은 모든 API 요청을 단기 실행 그래프(DAG)로 모델링하여, 요청이 통과하는 미들웨어 단계를 실시간으로 추적하고 학습한다. 실제 실행 경로를 학습된 그래프와 비교함으로써, 생략되거나 순서가 바뀐 단계를 즉각 식별하고 지연의 근본 원인을 특정 노드 단위로 30초 이내에 찾아낸다. 또한, 단순 이상치와 드리프트를 구분하고 드리프트를 구조적, 볼륨, 공변량 변화로 분류하여, 시스템 변경 시에만 경고를 발생시키는 효율적인 모니터링 체계를 구축한다.
챕터별 상세
00:00
Execution graphs for anomaly and drift detection
전통적인 모니터링은 평균 지연 시간과 에러율을 기반으로 시스템 건강 상태를 보고하지만, silently 발생한 처리 단계 누락은 감지하지 못한다. JP Morgan은 API 요청을 단기 실행 그래프(DAG)로 모델링하여 이러한 문제를 해결한다. 초당 1,600건 이상의 요청에서 수집된 원격 측정 데이터를 기반으로 미들웨어 단계를 학습한다. 실제 실행 경로를 이 학습된 그래프와 비교하여 생략, 재정렬, 주입된 단계를 식별한다.
01:07
What a short lived execution graph is
실행 그래프는 요청당 하나의 DAG로 구성되며, 해당 요청의 수명 동안만 존재한다. 이는 요청이 통과하는 모든 스팬(span)을 포함한다. 이 그래프는 요청의 인과 관계를 나타내며, 시스템의 실제 동작을 설명한다. 지속적인 그래프(데이터베이스 기반)와 달리, 실행 그래프는 요청 처리의 인과성을 추적하는 데 최적화되어 있다.
03:28
Tiered checks and per client baselines
시스템은 3단계 계층적 체크를 수행한다. Tier 0는 그래프 구조와 타이밍을 확인하고, Tier 1은 편차와 구조적 비교를 수행하며, Tier 2는 클라이언트별 드리프트를 탐지한다. 각 단계는 마이크로초 단위로 처리되어 오버헤드를 최소화한다. GPU나 복잡한 모델 없이도 통계적 기반으로 이상을 탐지한다.
05:23
The method: baseline, deviation, localize, act
방법론은 베이스라인 설정, 편차 탐지, 원인 노드 특정, 조치 수행의 4단계로 이루어진다. 노드별 베이스라인은 지연 시간, 종속성, 실행 빈도를 포함한다. 실제 실행 데이터가 이 베이스라인에서 벗어나면 편차로 간주한다. 편차가 임계값을 초과하면 이상으로 분류하고 조치를 취한다.
06:16
Localizing a slow node, and how the system is trained
지연이 발생했을 때, 전체 엔드포인트가 아닌 특정 노드를 지목하여 원인을 찾는다. 시스템은 정상적인 요청 패턴을 학습하여 베이스라인을 생성한다. 실제 요청이 이 베이스라인과 비교되어 지연의 원인이 되는 노드를 정확히 찾아낸다. 이 방식은 근본 원인 분석 시간을 수 시간에서 30초 미만으로 단축한다.
07:33
Anomaly versus drift
이상(Anomaly)은 정상적인 클라우드 동작에서 벗어난 일시적인 사건이다. 반면 드리프트(Drift)는 정상적인 동작 자체가 시간이 지남에 따라 변화하는 현상이다. 이상 탐지기는 드리프트를 정상으로 오인하지 않도록 드리프트 자체를 탐지하고 분류해야 한다. 이를 위해 고정된 임계값 대신 동적인 베이스라인을 사용한다.
08:55
The three kinds of drift: structural, volume, covariate
드리프트는 구조적(Structural), 볼륨(Volume), 공변량(Covariate) 드리프트로 분류된다. 구조적 드리프트는 그래프에 새로운 노드가 추가되거나 제거될 때 발생한다. 볼륨 드리프트는 요청량 변화로 인해 시스템 성능이 달라질 때 나타난다. 공변량 드리프트는 입력 데이터의 특성 변화로 인해 발생한다. 각 드리프트 유형에 따라 대응 조치가 달라진다.
12:46
The pipeline: from telemetry to gradual rollout
원격 측정 데이터는 OpenTelemetry SDK를 통해 수집되고 Kafka를 거쳐 스트림 프로세서로 전달된다. 스트림 프로세서는 그래프를 분석하여 이상을 탐지한다. 탐지된 이상은 두 가지 경로로 처리된다. 하나는 즉각적인 조치를 위한 핫 패스(Hot Path)이고, 다른 하나는 정밀 분석을 위한 리콘(Recon) 경로이다.
13:54
Hot path versus recon, and worked examples
핫 패스는 빠른 의사결정을 위해 설계되었으며, 지연 시간을 최소화한다. 리콘 경로는 더 정밀한 분석을 수행하여 정확도를 높인다. 예를 들어, 특정 노드에서 41배의 지연 편차가 발생했을 때, 핫 패스는 즉시 이상을 탐지하고 리콘 경로는 해당 노드의 상세 데이터를 분석하여 원인을 특정한다.
15:21
Tuning it: delayed events, sampling, cold starts
시스템 튜닝을 위해 지연된 이벤트 처리, 샘플링 전략, 콜드 스타트 문제를 고려한다. 지연된 이벤트는 워터마크를 사용하여 처리한다. 샘플링은 그래프 분포를 학습하는 데 사용된다. 새로운 엔드포인트에 대한 콜드 스타트 문제는 베이스라인이 없는 경우를 대비하여 처리한다.
17:09
Results and lessons
이 시스템 도입 후 평균 발견 시간(MTTD)이 60-80% 감소했다. 상위 1-2개 노드에서 원인을 정확히 특정하는 비율이 0.8-0.9에 달한다. 오탐지율은 서비스당 일일 10건 미만으로 유지된다. 그래프 기반 모니터링은 대규모 시스템에서 효율적이고 정확한 이상 탐지를 가능하게 한다.
용어 해설
- 방향성 비순환 그래프(DAG)
- — 노드 간의 방향성 있는 관계를 나타내는 자료구조로, API 요청의 처리 단계를 순서대로 모델링하는 데 사용됨. 순환이 없는 구조를 통해 요청의 실행 흐름을 명확하게 파악할 수 있음.
- 쿨백-라이블러 발산(KL Divergence)
- — 두 확률 분포 간의 차이를 측정하는 지표로, API 요청 패턴의 드리프트를 탐지할 때 기준 분포와 현재 분포의 변화를 정량화하는 데 사용됨.
- 원격 측정(Telemetry)
- — 시스템의 상태와 성능 데이터를 실시간으로 수집하는 기술로, API 요청의 실행 경로와 지연 시간을 추적하여 이상 탐지의 기반 데이터로 활용됨.
언급된 리소스
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 07. 23.수집 2026. 07. 23.출처 타입 YOUTUBE
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.