지연 결합 사가: 에이전트가 단순한 루프 속 LLM이 아닌 이유

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

기존의 LLM 에이전트는 단순 루프 내에서 실행되어 프로세스 중단 시 중복 실행이나 상태 유실의 위험이 크다. 이를 해결하기 위해 LLM은 계획(의도)만 세우고 실제 실행과 상태 관리는 런타임이 담당하는 'Late-Bound Saga' 패턴이 필요하다. 이 방식은 모든 의도를 실행 전 원장에 기록하여 장애 복구 시 정확한 재개를 보장하며, 수백 단계의 긴 워크플로에서도 높은 성공률을 유지한다. 결과적으로 에이전트는 단순한 코드가 아닌, 비즈니스 로직의 연속성을 보장하는 지속성 실행 시스템으로 진화해야 한다.

배경

LLM 에이전트 및 도구 호출(Tool Calling)에 대한 기본 이해, 분산 시스템의 Saga 패턴 및 지속성 실행(Durable Execution) 개념, Python 데코레이터 및 비동기 프로그래밍 지식

대상 독자

프로덕션 환경에서 신뢰성 높은 LLM 에이전트를 구축하려는 소프트웨어 엔지니어 및 아키텍트

의미 / 영향

이 기술은 에이전트가 단순한 데모 수준을 넘어 실제 비즈니스 크리티컬한 업무를 수행할 수 있는 기반을 제공한다. 특히 장기 실행 워크플로에서 인프라 비용을 최적화하고 운영 안정성을 획기적으로 높일 수 있다.

섹션별 상세

단순 루프 구조의 에이전트는 프로세스 장애 시 중복 실행(Double-charging) 문제를 피하기 어렵다. 데이터의 지속성(Durability)만으로는 부족하며, 프로그램의 명령 포인터가 살아남는 연속성(Continuity)이 보장되어야 한다. 이를 위해 애플리케이션 코드가 아닌 별도의 런타임이 실행 상태를 소유해야 한다.

python

@agent
def run_agent(task):
    while not done(task):
        intent = yield plan(task)
        result = yield execute(intent)
        task = yield append(task, result)

런타임이 실행 상태를 소유하도록 설계된 Late-Bound Saga 방식의 에이전트 구조 예시

워크플로의 단계가 길어질수록 각 단계의 미세한 실패 확률이 누적되어 전체 성공률이 급격히 떨어진다. 99% 신뢰도의 단계라도 200단계가 겹치면 성공률은 13%까지 하락하며, 루프 방식은 처음부터 다시 시작해야 하므로 비용과 시간이 낭비된다. 런타임 기반의 지속성 실행은 실패한 지점부터 재개하여 이 문제를 해결한다.

근거

99% 신뢰도의 200단계 워크플로는 전체 성공률이 13%에 불과하다. — Your demo worked because it was twelve steps long 섹션

LLM은 계획만 세우는 순수 함수여야 하며 실제 실행 권한을 가져서는 안 된다. LLM이 의도를 제안하면 런타임이 이를 원장에 기록한 뒤 실행하고 결과를 다시 기록하는 'LLM Proposes, Runtime Disposes' 구조를 지향해야 한다. 이 엄격한 분리를 통해 실행의 가시성과 제어력을 확보할 수 있다.

Late-Bound Saga는 LLM이 런타임에 워크플로 그래프를 한 노드씩 동적으로 확장해 나가는 방식이다. 실행 전 의도 기록과 실행 후 결과 기록이라는 '브래킷(Bracket)' 구조를 통해 복구 시 외부 시스템 확인 없이도 작업 완료 여부를 판단한다. 이는 동적인 유연성과 엄격한 내구성을 동시에 제공한다.

근거

Late-Bound Saga는 한 단계당 총 4번의 원장 기록(의도 제안 전후, 결과 기록 전후)을 수행한다. — The Late-Bound Saga: a workflow the LLM writes one edge at a time 섹션

에이전트 런타임은 의도 원장, 실질적 1회 실행, 프로세스 경계를 넘는 중단 및 재개, 외부 신호 전달 기능을 제공해야 한다. 특히 외부 신호(Signal)는 실행 중인 에이전트의 계획을 무효화하고 새로운 컨텍스트를 주입할 수 있게 하여 인간이나 감독 에이전트의 개입을 가능하게 한다.

python

@agent(model="claude-sonnet-4-6")
def hire_for_role(role: str, recruiter_id: str):
    """
    Find the three best candidates for the given role and schedule first-round interviews with each of them.
    """

Agentspan 라이브러리를 사용하여 선언적으로 정의된 에이전트 워크플로 예시

용어 해설

Late-Bound Saga: — 실행 시점에 LLM이 워크플로 그래프의 다음 단계를 동적으로 결정하고, 각 단계를 실행 전후로 영구 원장에 기록하는 패턴이다. 미리 정의된 그래프 없이 모델이 런타임에 경로를 생성하며, 장애 발생 시 정확한 지점에서 재개할 수 있는 내구성을 제공한다.
Durable Execution: — 프로세스 장애나 인프라 중단에도 불구하고 프로그램의 상태와 실행 위치를 보존하여 중단된 지점부터 정확히 재개할 수 있게 하는 기술이다. 단순 데이터 저장을 넘어 명령 포인터의 연속성을 보장함으로써 중복 실행 등의 부작용을 방지한다.
Effectively-once Execution: — 시스템 장애나 재시도 상황에서도 특정 작업(예: 결제 API 호출)이 결과적으로 단 한 번만 실행되도록 보장하는 메커니즘이다. 의도치 않은 중복 처리를 막아 비즈니스 로직의 무결성을 유지하는 핵심 요소이다.
Intent Ledger: — LLM이 제안한 다음 행동(의도)을 실제 실행하기 전에 영구적으로 기록하는 저장소이다. 실행 전후의 상태를 모두 기록함으로써 시스템 복구 시 해당 작업의 완료 여부를 외부 상태 확인 없이도 즉시 판단할 수 있게 한다.

언급된 리소스

GitHubAgentspan GitHub Repository