TL;DR
글은 Model Context Protocol을 이용해 외부 도구를 런타임에 등록하는 아키텍처와 Server-Sent Events로 텍스트 토큰과 구조화된 JSON을 함께 스트리밍해 실시간으로 React 컴포넌트를 렌더링하는 설계를 중심으로 설명한다. 구현은 LangGraph 기반 ReAct 오케스트레이션, FastAPI 백엔드, Next.js 프런트엔드, FastMCP와 LangSmith 관찰성, MongoDB Atlas의 슬라이딩 윈도우 메모리로 구성되어 있으며 각 구성 요소가 어떤 역할을 하는지가 기술되어 있다. 인간 승인 흐름은 이메일 발송 같은 민감한 외부 액션을 그래프 실행을 일시 정지한 상태에서 승인 후 재개하는 방식으로 안전하게 처리하도록 설계되어 있다. 단일 SSE 스트림에서 토큰·툴 로그·구조화 UI를 조율하는 구현 난제와 LLM 출력의 이스케이프 문자로 인한 이메일 템플릿 문제 같은 실무적 한계가 명시되어 있다.
실용적 조언
- 동적 툴을 다루려면 MCP와 같은 런타임 등록 프로토콜을 적용하고, 오케스트레이션 로직을 툴 메타정보 기반으로 설계하면 새로운 도구 추가 시 핵심 로직을 변경하지 않을 수 있다.
섹션별 상세
용어 해설
- Model Context Protocol
- — Model Context Protocol은 에이전트와 외부 도구가 런타임에 능동적으로 등록·교환할 수 있도록 설계된 프로토콜이다. 이 프로토콜은 도구의 메타정보와 사용 가능한 인터페이스를 에이전트에 전달하여 오케스트레이션 로직을 수정하지 않고 새로운 기능을 플러그인 방식으로 추가할 수 있게 한다. 동적 툴 디스커버리와 기능 확장이 필요할 때 아키텍처 복잡도를 낮추는 데 핵심 역할을 한다.
- Server-Sent Events
- — Server-Sent Events는 서버에서 클라이언트로 단방향 스트리밍을 지속적으로 전송하는 웹 표준 방식이다. 텍스트 기반 이벤트 스트림을 통해 토큰, 구조화된 JSON 페이로드, 로그를 동시에 밀어주어 실시간 UI 렌더링과 점진적 응답 처리를 가능하게 한다. 경량 스트리밍 구현으로 실시간 대화형 대시보드와 연동할 때 지연을 낮추는 이점이 있다.
- ReAct
- — ReAct는 행동(action)과 추론(reasoning)을 교차시켜 에이전트가 도구 호출과 내부 사고 과정을 통합하게 하는 프롬프트 패턴이다. 에이전트는 자연어 추론을 통해 다음 행동을 결정하고, 도구 호출 결과를 재입력으로 삼아 순차적 의사결정을 진행한다. 도구 사용이 빈번한 에이전트 설계에서 행동-사고 루프를 구조화하는 핵심 방법이다.
- Human-in-the-Loop
- — Human-in-the-Loop는 자동화된 결정 과정 중 특정 액션에 대해 인간의 명시적 승인을 요구하는 운영 패턴이다. 에이전트가 외부 시스템에 영향을 주는 작업을 수행하기 전에 승인 플로우로 실행을 보류하고 검토·승인·거부를 받아 안전성과 규정 준수를 확보한다. 외부 통합과 민감한 액션을 다룰 때 오용·실수 위험을 낮추는 보호막 역할을 한다.
언급된 도구
에이전트 오케스트레이션을 위한 그래프 기반 프레임워크로 ReAct 패턴과 통합되어 다중 스텝 플로우를 관리하는 용도이다
백엔드 API 서버 구현을 위한 경량 Python 프레임워크로 SSE 엔드포인트와 MCP 접속 지점을 제공하는 용도이다
프론트엔드에서 SSE로 수신한 텍스트와 구조화 JSON을 실시간 React 컴포넌트로 렌더링하는 데 사용된 프레임워크이다
Model Context Protocol의 구현체로 외부 도구의 런타임 등록과 통신을 담당하는 미들웨어 역할이다
관찰성 도구로 에이전트의 로그·툴 호출·추론 토큰을 수집하고 트레이스하는 용도로 사용되었다
메모리 저장소로 슬라이딩 윈도우 컨텍스트를 TTL 30일로 유지하는 데 사용된 데이터베이스 서비스이다
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
