본문으로 건너뛰기
AI Engineer조회 4회

AI 에이전트 아키텍처: 2015년의 마이크로서비스와 같은 시행착오와 해결책

Navan의 아키텍트들이 AI 에이전트 구축 시 발생하는 상태 관리, 컨텍스트 최적화, 비결정적 시스템 테스트 문제를 마이크로서비스의 진화 과정에 비추어 분석하고 실전 솔루션을 공유한다.

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

AI 에이전트 기술의 현주소는 2015년 마이크로서비스 도입 초기와 유사하며, 복잡한 멀티 에이전트 구조보다는 단일 루프의 완성도가 우선되어야 한다. Navan은 '스킬'을 컨텍스트의 최소 단위로 정의하여 동적으로 로드함으로써 컨텍스트 윈도우 효율을 극대화하고, 비결정적인 에이전트의 동작을 검증하기 위해 단순 출력값이 아닌 실행 궤적(Trajectory)을 평가하는 방식을 채택했다. 또한 에이전트의 사고 과정을 추적하기 위해 툴 호출 시점마다 목표와 신뢰도 점수를 기록하는 훅(Hook) 시스템을 구축하여 운영 가시성을 확보했다. 현재 런타임과 메모리 구조는 표준화되고 있으나, 실행 비용 최적화와 복잡한 의사결정의 디버깅은 여전히 해결해야 할 과제로 남아있다.

챕터별 상세

00:00

마이크로서비스의 교훈과 에이전트의 현재

현재 AI 에이전트 기술의 발전 단계는 2015년 마이크로서비스 도입 초기와 매우 유사한 양상을 띤다. 당시 잘 구조화된 모놀리스를 만들 수 없다면 마이크로서비스가 정답이 아니었듯, 현재도 단일 에이전트 루프를 완벽히 구현하지 못한 채 복잡한 멀티 에이전트 시스템을 구축하는 것은 위험하다. Navan은 이러한 과거의 시행착오를 바탕으로 에이전트 아키텍처의 표준화된 레이어를 정립하고 있다. 오버엔지니어링을 경계하고 에이전트의 기본 실행 단위와 가시성 확보에 집중하는 것이 프로덕션 수준의 시스템 구축을 위한 첫걸음이다.

마이크로서비스는 시스템을 작게 쪼개어 유연성을 얻지만 관리 복잡도가 급증하는 트레이드오프가 있다.

02:34

상태 유지형 런타임과 에이전트의 생명주기

에이전트는 본질적으로 상태를 유지해야 하므로 기존의 상태 비저장(Stateless) API 서비스와는 다른 런타임 접근 방식이 필요하다. 각 세션은 샌드박스화된 격리 환경에서 실행되어야 하며, 세션 간에 상태가 유지되고 재수화(Rehydration)될 수 있는 메커니즘이 필수적이다. Navan은 AWS의 에이전트 코어 런타임을 활용하면서도 세션 지속성과 프레임워크 독립성을 보장하기 위한 자체 레이어를 추가했다. 이를 통해 에이전트가 복잡한 다단계 작업을 수행하는 동안 컨텍스트를 잃지 않고 안정적으로 실행될 수 있는 기반을 마련했다.

재수화(Rehydration)는 저장된 상태 데이터를 다시 활성화하여 실행 가능한 상태로 복구하는 과정을 의미한다.

03:42

메모리 계층 구조: RAG에서 에피소드 기억까지

에이전트의 메모리는 단순한 정보 검색(Retrieval)을 넘어 다층적인 계층 구조로 진화하고 있다. 단기 대화 기억뿐만 아니라 장기적인 선호도와 지식, 그리고 과거의 작업 성공 사례를 담은 에피소드 기억이 유기적으로 결합되어야 한다. Navan은 수집, 추출, 통합, 검색으로 이어지는 메모리 파이프라인을 구축하여 에이전트가 상황에 맞는 최적의 정보를 참조하게 했다. 특히 에피소드 기억은 에이전트가 이전에 무엇이 작동했고 무엇이 실패했는지를 학습하게 하여 반복적인 오류를 줄이는 데 결정적인 역할을 한다. 결과적으로 메모리는 단순한 데이터베이스가 아니라 에이전트의 의사결정을 가이드하는 지능형 레이어로 작동한다.

에피소드 기억은 특정 사건이나 경험에 대한 기억으로, 에이전트의 행동 최적화에 사용된다.

06:04

컨텍스트 단위로서의 스킬과 동적 로딩

컨텍스트 윈도우의 크기가 커지고 있지만, 너무 많은 정보를 한꺼번에 주입하면 에이전트의 집중력이 저하되고 비용이 상승하는 문제가 발생한다. 이를 해결하기 위해 Navan은 '스킬'을 컨텍스트의 최소 단위로 정의하고 필요한 시점에만 동적으로 로드하는 방식을 채택했다. 각 스킬은 특정 도메인에 대한 지침과 도구 실행 로직을 포함하며 독립적으로 테스트와 재사용이 가능하다. 점진적 공개(Progressive Disclosure) 원칙을 적용하여 초기에는 최소한의 컨텍스트만 제공하고 작업 진행에 따라 필요한 메타데이터를 추가함으로써 에이전트의 추론 정확도를 높였다. 이 구조는 거대한 프롬프트 하나에 의존하는 방식보다 훨씬 유연하고 관리가 용이하다.

점진적 공개는 사용자나 시스템에 필요한 정보만 단계적으로 노출하여 복잡성을 줄이는 설계 원칙이다.

07:16

에이전트 가시성 확보: 로그를 넘어선 추적 시스템

에이전트의 사고 과정이 복잡해짐에 따라 기존의 텍스트 로그 방식으로는 시스템의 동작을 이해하거나 디버깅하는 것이 불가능해졌다. Navan은 툴 호출 시점마다 훅(Hook)을 걸어 에이전트의 현재 목표, 추론 근거, 신뢰도 점수를 가로채는 시스템을 구축했다. 이를 통해 에이전트가 12단계 작업 중 7단계에서 왜 잘못된 판단을 내렸는지 명확히 파악할 수 있는 실행 트레이스를 생성한다. 특히 신뢰도 점수가 낮은 추론 결과는 자동으로 인간 검토자에게 라우팅하여 시스템의 안정성을 보장한다. 이러한 가시성 확보는 프로덕션 환경에서 에이전트를 운영하기 위한 필수적인 관제 도구로 기능한다.

실행 트레이스(Execution Trace)는 프로그램이나 에이전트가 실행된 경로와 상태 변화를 기록한 데이터다.

09:32

비결정적 시스템의 테스트와 궤적 평가

에이전트는 동일한 입력에도 다른 결과를 낼 수 있는 비결정적 시스템이므로 기존의 단위 테스트 방식으로는 검증이 어렵다. Navan은 최종 출력값만 확인하는 대신 에이전트가 목표에 도달하기 위해 거친 전체 실행 궤적(Trajectory)을 평가하는 방식을 도입했다. 에이전트가 설정한 단계들이 논리적으로 타당한지, 각 단계에서 올바른 도구를 호출했는지를 수치화하여 성능을 측정한다. 프롬프트가 변경될 때마다 수십 개의 시나리오에 대해 궤적 점수를 자동으로 계산하여 성능 저하 여부를 즉각적으로 판단한다. 이는 에이전트 시스템의 신뢰도를 객관적으로 담보할 수 있는 가장 실질적인 벤치마크 방법론이다.

비결정적(Non-deterministic) 시스템은 같은 조건에서도 매번 결과가 달라질 수 있는 특성을 가진다.

13:04

에이전트 권한 관리와 멀티 에이전트의 한계

에이전트가 사용자를 대신해 실제 결제나 예약을 수행할 때 권한 관리와 보안은 가장 민감한 이슈가 된다. Navan은 에이전트를 단순한 서비스가 아닌 새로운 유형의 주체(Principal)로 취급하여 예산 한도, 최소 권한 원칙, 킬 스위치 등을 포함한 거버넌스 레이어를 구축했다. 또한 무분별한 멀티 에이전트 구성보다는 하나의 마스터 에이전트가 도메인별 서브 스킬을 관리하는 구조가 현재로서는 더 안정적임을 확인했다. 에이전트 간의 통신이 필요할 때는 A2A(Agent-to-Agent) 프로토콜을 통해 명확한 계약 기반으로 상호작용하게 하여 연쇄적인 환각 현상을 방지한다. 이는 에이전트가 기업 환경 내에서 안전하게 자율성을 발휘하게 하는 핵심 장치다.

킬 스위치(Kill Switch)는 시스템이 통제 불능 상태가 되었을 때 즉시 중단시키는 비상 정지 장치다.

15:29

에이전트 기술 스택의 성숙도와 남은 과제

현재 에이전트 기술 스택에서 런타임과 메모리, 도구 호출 표준(MCP) 등은 상당 부분 성숙 단계에 진입했다. 하지만 실행 비용의 예측 및 제어, 복잡한 추론 과정의 리플레이 및 디버깅, 그리고 범용적인 에이전트 간 통신 표준은 여전히 해결해야 할 과제로 남아있다. 특히 에이전트가 더 많은 토큰을 소비하도록 유도하는 벤더들의 이해관계 속에서 기업은 비용 효율적인 모델 조합과 최적화 전략을 직접 구축해야 한다. Navan은 이러한 기술적 공백을 메우기 위해 지속적으로 아키텍처를 개선하고 있으며, 대부분의 구성 요소가 이미 존재하므로 이를 어떻게 유기적으로 결합하느냐가 성공의 열쇠라고 강조한다.

MCP(Model Context Protocol)는 모델이 외부 데이터와 도구에 접근하는 방식을 표준화하려는 시도다.

용어 해설

마이크로서비스(Microservices)
— 애플리케이션을 작고 독립적인 서비스 단위로 분할하여 구축하는 아키텍처 스타일이다. 에이전트 시스템이 현재 겪고 있는 복잡성 관리와 오버엔지니어링 문제를 진단하는 비교 모델로 인용된다.
상태 유지형 런타임(Stateful Runtime)
— 에이전트가 이전 대화나 작업 상태를 세션 간에 유지해야 하는 특성을 지원하는 실행 환경이다. 기존의 상태 비저장(Stateless) API와 달리 지속적인 세션 격리와 데이터 재수화(Rehydration)가 필수적이다.
궤적 평가(Trajectory Evaluation)
— 에이전트의 최종 결과물뿐만 아니라 목표 달성을 위해 거친 일련의 단계와 의사결정 과정 전체를 평가하는 방식이다. 비결정적인 에이전트의 동작을 검증하기 위해 단순 출력값 비교보다 정교한 분석을 제공한다.
모델 컨텍스트 프로토콜(MCP)
— Model Context Protocol의 약자로, 에이전트가 외부 도구 및 데이터 소스와 통신하기 위한 표준 인터페이스 규격이다. 다양한 에이전트 프레임워크 간의 도구 호출 방식을 표준화하여 상호운용성을 높인다.
에피소드 기억(Episodic Memory)
— 에이전트가 과거에 수행한 특정 작업의 성공 또는 실패 사례를 기억하고 이를 유사한 상황에 적용하는 메커니즘이다. 단순 지식 검색을 넘어 에이전트의 실행 효율과 정확도를 높이는 핵심 요소이다.

언급된 리소스

AI 분석 전체 내용 보기

AI 요약 · 북마크 · 개인 피드 설정 — 무료

출처 · 인용 안내

원문 발행 2026. 08. 30.수집 2026. 08. 30.출처 타입 YOUTUBE

인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.