프로덕션급 멀티 에이전트 투자 위원회 시스템 구축 사례

실용적 조언

여러 API에서 데이터를 수집해야 하는 경우 asyncio.gather()를 사용하여 병렬로 처리하면 지연 시간을 대폭 줄일 수 있다.
에이전트의 출력을 Typed Dict나 Pydantic 모델 등으로 강제하여 후속 단계의 오류를 방지하라.
SSE를 도입하여 긴 추론 시간을 갖는 에이전트의 진행 상황을 사용자에게 실시간으로 제공하라.

섹션별 상세

단일 루프에 모든 기능을 결합하는 대신 독립적인 에이전트들로 시스템을 구조화했다. 매니저, 분석가, 반대 의견 제시자, 편집자 등 명확한 역할을 부여하여 각 단계의 관측 가능성을 확보했다. 이를 통해 한 부분의 개선이 전체 시스템에 예기치 않은 영향을 주는 결합도 문제를 해결했다. 불투명한 단일 프롬프트를 디버깅하는 대신 각 에이전트가 생성한 결과물을 개별적으로 추적할 수 있다.

워크플로우를 순차적인 LLM 호출 체인이 아닌 동시성 파이프라인으로 설계했다. 단기(1-6개월) 및 장기(1-5년) 투자 시계열 분석을 위해 5개의 에이전트를 병렬로 실행하며, 편집자 에이전트들도 그 위에서 병렬로 작동한다. 첨부된 벤치마크 결과에 따르면 순차 실행 시 약 25초 걸리던 재무 데이터 수집 작업이 asyncio.gather()를 통한 병렬화로 약 7초까지 단축됐다. 이는 대규모 데이터 처리가 필요한 에이전트 시스템에서 병렬화가 필수적임을 시사한다.

순차 실행과 asyncio를 이용한 병렬 실행의 소요 시간을 비교한 타임라인 다이어그램이다. — Chart재무 데이터 수집(티커 검증, 재무제표 조회 등) 시 순차적으로 처리하면 약 25초가 소요되지만, 병렬로 처리하면 약 7초로 단축됨을 수치로 증명한다. 이는 멀티 에이전트 시스템에서 데이터 수집 단계의 효율화가 전체 지연 시간에 미치는 영향을 명확히 보여준다.

데이터 접근과 추론 레이어를 엄격히 분리하여 시스템의 예측 가능성을 높였다. API 호출이나 재무 데이터 수집 같은 결정론적 작업은 독립된 함수로 처리하고, LLM 추론 레이어는 구조화된 입력만 다루도록 설계했다. 출력값 역시 타입이 지정되어 있어(Typed outputs) 시스템이 예측 불가능한 형식으로 응답하는 현상을 방지했다. 이러한 구조는 에이전트 시스템이 단순한 프롬프트 뭉치가 아닌 하나의 안정적인 서비스처럼 동작하게 만든다.

SSE(Server-Sent Events)를 이용한 실행 스트리밍을 도입하여 파이프라인 진행 상황을 실시간으로 시각화했다. 사용자는 최종 응답을 기다리는 대신 파이프라인이 전개되는 과정을 실시간으로 지켜보며 어디에서 시간이 소요되고 결정이 내려지는지 파악할 수 있다. 이는 사용자 경험을 개선할 뿐만 아니라 개발자가 시스템의 병목 구간을 식별하는 데에도 큰 도움을 준다.

용어 해설

멀티 에이전트 시스템(Multi-Agent System): — 하나의 거대한 모델이 모든 일을 처리하는 대신, 명확한 역할을 가진 여러 독립적인 에이전트들이 협력하여 복잡한 과업을 수행하는 아키텍처이다. 각 에이전트의 책임을 분리함으로써 시스템의 복잡도를 낮추고 유지보수성을 높이는 효과가 있다.
디커플링(Decoupling): — 시스템 구성 요소 간의 의존성을 최소화하여 한 부분의 변경이 다른 부분에 영향을 주지 않도록 설계하는 원칙이다. 에이전트 워크플로우에서 이를 적용하면 특정 에이전트의 로직을 수정해도 전체 파이프라인이 깨지지 않고 독립적으로 확장 가능하다.
서버 전송 이벤트(SSE (Server-Sent Events)): — 서버가 클라이언트로 실시간 데이터를 스트리밍할 수 있게 해주는 웹 기술이다. LLM 애플리케이션에서는 최종 응답이 완성될 때까지 기다리지 않고, 각 에이전트의 실행 과정이나 중간 결과를 사용자에게 즉시 보여주기 위해 사용된다.

언급된 도구

Argus추천

멀티 에이전트 기반 투자 분석 시스템

asyncio추천

비동기 병렬 처리를 위한 파이썬 라이브러리

언급된 리소스

GitHubArgus Project Codebase