컨텍스트 손실 해결을 위한 무상태성 에이전트 오케스트레이션 기법

실용적 조언

에이전트가 지침을 자꾸 놓친다면 지침을 모델에 넣지 말고 외부 오케스트레이터가 단계별로 주입하도록 구조를 변경하라.
복잡한 워크플로는 디스크 기반의 정적 계획으로 정의하고 에이전트는 실행기로만 활용하라.

섹션별 상세

기존의 기술 라이브러리(Skills Library) 방식이 가진 컨텍스트 손실 문제를 지적했다. 에이전트에게 무거운 기술과 지침을 한꺼번에 로드하고 이를 따르도록 신뢰하는 방식은 컨텍스트 윈도우의 한계로 인해 실행 정확도가 떨어진다는 경험을 공유했다. 이를 해결하기 위해 지침을 모델 내부에 두지 않고 외부 시스템으로 분리하는 전략을 선택했다.

전체 실행 계획을 디스크에 저장하고 에이전트를 '보물찾기(Scavenger Hunt)' 방식으로 유도하는 아키텍처를 구현했다. 오케스트레이터가 전체 계획 중 현재 위치에 해당하는 단일 단계만 에이전트에게 전달하면, 에이전트는 해당 작업만 수행하고 결과를 반환한다. 이 과정은 호출 간에 상태를 유지하지 않는 무상태(Stateless) 방식으로 작동하여 모델의 추론 부담을 최소화한다.

에이전트는 단순한 입력을 받아 실행한 뒤 다음 단계를 위해 다시 오케스트레이터로 돌아오는 순환 구조를 가진다. 다음 행동은 에이전트의 컨텍스트 내부가 아니라 디스크에 저장된 계획상의 현재 위치에 의해 결정된다. 이러한 분리 구조를 통해 에이전트가 복잡한 전체 맥락을 기억할 필요 없이 개별 작업의 품질에만 집중할 수 있도록 설계했다.

해당 아키텍처를 'Haiku Method'라는 이름으로 오픈소스화하고 소프트웨어 스튜디오 아키텍처를 시각화한 인터랙티브 맵을 공개했다. 실제 워크플로에서 오케스트레이터가 각 단계를 어떻게 밟아나가는지 다이어그램을 통해 증명했다. 기술적 구현 경로와 시행착오를 담은 블로그 포스트를 함께 제공하여 방법론의 재현성을 뒷받침했다.

용어 해설

무상태성(Stateless): — 각 요청이 독립적으로 처리되어 이전 요청의 상태 정보를 서버가 유지하지 않는 방식이다. 에이전트가 매 단계마다 필요한 정보만 입력받아 실행하므로 컨텍스트 오염을 방지하고 시스템의 예측 가능성을 높인다.
컨텍스트 손실(Context Loss): — LLM의 입력 창(Context Window)이 길어질수록 중간에 위치한 정보를 제대로 처리하지 못하거나 망각하는 현상이다. 복잡한 기술이나 긴 지침을 한꺼번에 주입할 때 발생하며 에이전트의 성능 저하 원인이 된다.
오케스트레이터(Orchestrator): — 여러 AI 에이전트나 작업 단계를 조율하고 실행 순서를 관리하는 중앙 제어 시스템이다. 전체 계획을 작은 단위로 쪼개어 적절한 시점에 에이전트에게 전달하고 결과를 수집하는 역할을 수행한다.

언급된 도구

Haiku Method추천링크

에이전트 오케스트레이션 및 무상태 실행 관리 프레임워크

언급된 리소스

DemoHaiku Method Software Studio Architecture