챕터별 상세
기존 장애 대응 프로세스의 한계
네이버 통합검색은 Gateway, NX, Cache, PRS, SAS 등 복잡한 레이어로 구성되어 장애 발생 시 수많은 알람이 동시에 쏟아진다. 담당자(IC)는 여러 페이지의 모니터링 데이터를 직접 확인하고 각 레이어 담당자에게 문의하여 정보를 조합해야 했다. 이 과정에서 알람의 시급도 판단이 어렵고 과거 경험에 의존하는 분석 방식 때문에 인적 피로도가 높았다.
네이버 검색의 아키텍처는 수많은 마이크로서비스가 얽혀 있어 하나의 장애가 연쇄적인 알람을 유발하는 구조이다.
DevOps Agent v1 설계 및 구조
사람이 하던 일을 에이전트가 수행하도록 알람 발생, 데이터 확인, 정보 조합 및 분석 단계를 자동화했다. v1은 IC Agent가 중심이 되어 NX, PRS, SEER, ENV 등 각 영역별 Sub-agent에게 병렬로 분석을 요청하는 구조이다. 각 Sub-agent는 내부 메트릭 시스템인 Usain, Gom 등에서 데이터를 수집하고 LLM을 통해 이상 현상을 판단하여 리포트를 생성한다.
Sub-agent 방식은 각 도메인별로 특화된 프롬프트와 데이터 소스를 활용하여 분석의 전문성을 높이는 전략이다.
v1의 한계와 v2로의 진화 방향
v1은 코드 기반의 고정된 프로세스로 동작하여 Sub-agent 간 의견이 다를 경우 대응이 불가능한 Single-turn 방식이었다. 이를 해결하기 위해 v2에서는 LLM이 직접 도구를 선택하고 계획을 세우는 Orchestration via LLM 방식을 도입했다. 최신 모델의 Reasoning 능력을 활용하여 필요한 도구를 여러 번 호출하며 분석 정밀도를 높이는 Multi-turn 구조로 설계했다.
Multi-turn 방식은 에이전트가 분석 결과에 따라 추가 질문을 던지거나 다른 도구를 사용하는 자율성을 부여한다.
시스템 동작 최적화 및 이상 탐지 기법
동일 시점에 발생하는 수많은 알람을 효율적으로 처리하기 위해 Trigger Queue를 도입했다. 신규 알람 발생 시 최대 30초까지 대기하며 유사 알람을 묶어서 처리함으로써 LLM 호출 비용을 절감하고 분석 컨텍스트를 풍부하게 확보했다. 또한 슬라이딩 윈도우 방식을 적용하여 직전 2시간 데이터를 기준으로 95% 신뢰 구간을 계산하고 최근 10분 데이터가 이 구간을 벗어나는지 통계적으로 검증한다.
단순히 LLM에게 수치를 주는 것보다 통계적 유의성을 먼저 판단하여 전달하는 것이 환각 현상을 줄이는 데 효과적이다.
향후 과제 및 지속 가능한 에이전트 운영
단순 분석을 넘어 장애 대응을 위한 최적의 액션(WTRM 룰 추가, 리트라이 수 조정 등)을 추천하는 기능을 개발 중이다. 또한 시스템 구조 변화에 맞춰 에이전트의 지식(Context)을 최신화하기 위해 문서 및 코드 에이전트와 연동하는 체계를 구축하고 있다. 장애 분석 경험을 아카이빙하여 담당자가 바뀌어도 노하우가 유지되는 시스템을 지향한다.
에이전트의 지속 가능성은 시스템의 변화를 얼마나 자동으로 학습하고 반영하느냐에 달려 있다.
언급된 리소스
GitHubOpenAI Agents SDK
문서Langfuse
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2025. 11. 27.수집 2026. 02. 21.출처 타입 YOUTUBE
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.