LLM Agent 시스템을 그래프로 조직하는 방법

왜 중요한가

LLM Agent가 단일 응답을 넘어 장기 작업을 수행하면서도, 여러 전문 Agent의 병렬 실행과 독립 검증, 상태 보존과 실패 복구를 일관되게 처리하려면 개별 Agent의 성능만으로는 부족합니다. 이 논문은 작업 구조, Agent 협업, 실행 상태를 그래프로 외부화하는 Graph Engineering을 System Intelligence의 공통 기반으로 정리하고, Agent 수를 늘리는 것과 시스템 수준의 조직 능력을 구분합니다. 그 결과 복잡한 소프트웨어 개발, 과학적 발견, 의료, 기업 업무에서 실행 계획과 책임 경계, 복구 근거를 명시적으로 설계할 방향을 제공합니다.

관련 Figure

Infographic
도식의 상단은 Foundation Model과 Prompt·Context Engineering이 Model Intelligence를 구성하고, Harness·Loop Engineering이 외부 자원과 반복 실행을 추가해 Individual Intelligence를 형성하는 흐름을 나타냅니다. 하단은 Graph Engineering을 Task Organization, Agent Coordination, Runtime State Management로 나누어 여러 Agent를 시스템 수준에서 조직하는 역할을 연결합니다.
Model Intelligence에서 Individual Intelligence를 거쳐 System Intelligence로 확장되는 기술 계층과 대표 방법을 한눈에 배치한 도식입니다.

핵심 기여

지능 발전 단계를 하나의 틀로 통합

Foundation Model과 Prompt·Context Engineering이 Model Intelligence를 만들고, Harness·Loop Engineering이 Individual Intelligence로 확장하는 과정을 구분합니다. 이후 여러 Agent를 시스템 수준에서 조직하는 System Intelligence의 필요성을 단일 Agent의 병렬성·전문성·상태 관리 한계에서 도출합니다. 각 단계의 역할과 경계를 연결해 Graph Engineering이 등장한 배경을 정리합니다.

Graph Engineering의 세 가지 관점 정립

Task Organization은 목표와 의존 관계를 실행 가능한 작업 그래프로 바꿉니다. Agent Coordination은 능력, 팀 구조, 통신 경로를 그래프로 연결합니다. Runtime State Management는 상태 기록, 오류 위치 확인, 선택적 복구를 통해 실제 실행을 추적 가능한 구조로 만듭니다.

시스템 진화와 평가 과제 제시

실행 결과와 실패 기록을 이용해 작업 분해, Workflow, 팀 구조, 통신 패턴을 다음 실행에서 수정하는 System Evolution의 방향을 제시합니다. 동시에 구조 충실도, 실행 정확성, 시스템 진화, 거버넌스를 평가 축으로 제시합니다. 관련 논문과 구현 자료는 Awesome-Graph-Engineering 저장소에 수집했습니다.

관련 Figure

Diagram
왼쪽에서는 목표 분해와 Workflow 최적화가 작업 구조를 만들고, 가운데에서는 Agent 능력과 팀 구조, Communication이 실행을 조정합니다. 오른쪽에서는 실제 런타임 상태, 오류 감지, 복구 경계를 기록해 실패 이후에도 유효한 작업을 보존하고 구조를 갱신합니다.
Task와 Environment에서 출발해 작업 조직, Agent Team, 런타임 상태 관리를 거쳐 Answer와 Artifacts를 만드는 Graph Engineering의 전체 흐름입니다.

핵심 아이디어 이해하기

Transformer 기반 LLM은 한 번의 추론 과정 안에서 지식과 Reasoning을 활용하지만, 긴 작업의 여러 상태와 외부 도구 결과를 안정적으로 관리하는 데에는 한계가 있습니다. Prompt Engineering은 모델이 무엇을 해야 하는지와 출력 형식을 정하고, Context Engineering은 어떤 정보와 중간 결과를 제공할지 구성합니다. 두 방법은 모델 호출을 조정하지만, 그 자체로 병렬 작업의 책임 분리나 장기 실행 상태를 보장하지는 않습니다.

Harness Engineering은 LLM에 도구, 메모리, 외부 지식, 실행 환경을 연결해 행동 가능한 자원 범위를 넓힙니다. Loop Engineering은 그 자원을 계획, 행동, 관찰, 검증, 적응의 반복 과정에 배치해 개별 Agent가 목표를 계속 추적하도록 만듭니다. 그러나 단일 Loop 안에서는 서로 다른 전문 작업과 상태가 하나의 Context와 실행 경로에 섞이므로, 병렬 실행과 독립 검증, 부분 복구를 명확히 분리하기 어렵습니다.

Graph Engineering은 작업, Agent, 런타임 상태를 각각 노드와 관계로 외부화합니다. 작업 그래프는 하위 작업과 의존 관계를 입력으로 받아 실행 순서와 병렬 분기를 만들고, Agent 그래프는 각 작업을 적합한 전문 Agent와 도구에 연결하며, 상태 그래프는 실행 결과와 오류 근거를 기록합니다. 따라서 시스템은 단순히 더 많은 Agent를 호출하는 대신, 무엇을 해야 하는지, 누가 맡는지, 현재 어디까지 유효한지에 따라 다음 실행과 복구를 결정합니다.

방법론

논문은 먼저 Foundation Model, Agent Harness, Agent Loop, 로컬 상태로 구성된 Individual Agent를 정의하고, 여러 Agent와 공유 자원, 환경, 조정 메커니즘, 시스템 상태를 포함하는 Agent System으로 확장합니다. Individual Agent는 $$ 형태의 추상식으로 Foundation Model, Harness, 시간별 런타임 상태가 Loop 안에서 결합되는 구조를 나타냅니다. Agent System은 Agent Team, Shared Resources, Environment, Coordination Mechanisms, System State를 함께 고려해 개별 능력보다 관계와 상태의 진화를 분석 단위로 삼습니다.

첫 번째 축인 Task Organization에서는 상위 목표를 하위 목표와 실행 연산으로 변환합니다. Goal Decomposition은 작업을 노드로, 선행·데이터·논리 관계를 간선으로 표현해 의존성이 충족된 노드를 병렬 실행하게 하며, LLMCompiler와 Plan-over-Graph는 이런 구조를 스케줄 가능한 그래프로 연결합니다. Workflow Optimization은 LLM 호출, 전문 Agent, Retrieval, Tool, Memory, Aggregator, Verifier를 실행 그래프의 연산으로 배치하고, AFlow·EvoFlow·QualityFlow·DyFlow처럼 검색과 실행 피드백으로 구조를 수정합니다.

두 번째 축인 Agent Coordination에서는 작업 요구와 Agent 능력을 연결한 뒤 팀과 통신 구조를 구성합니다. Agent Capability Graph는 Agent, Skill, Tool, Model, Resource를 노드로 두고 능력 보유, 자원 접근, 권한, 신뢰도 관계를 기록하며, Agent Team Graph는 Chain, Routing, Fan-out/Fan-in 같은 역할 배치를 표현합니다. Communication Graph는 실행 중 필요한 Agent 사이의 메시지와 피드백 경로를 활성화하고, AgentPrune·AgentDropout·DyTopo처럼 비용이 크거나 기여도가 낮은 연결을 줄이거나 재구성합니다.

세 번째 축인 Runtime State Management는 계획된 구조와 실제 실행 사이의 차이를 기록합니다. State Recording은 상태 변화의 버전, 출처, 권한, 가시 범위, 인과 순서를 보존하고, Fault Localization은 의존 관계와 외부 증거를 따라 처음 잘못된 상태를 추적하며, Failure Recovery는 검증된 경계에서 재실행·Rollback·Branching·보상 작업을 선택합니다. PatchBoard의 제안·검증·Commit 경계, Event Sourcing의 Append-only 기록, MAGE와 CausalFlow의 영향 영역 중심 복구가 이 접근의 구체적 사례입니다.

관련 Figure

Diagram
Goal Structuring은 복합 목표를 하위 목표와 의존 관계로 나누고, Dependency-Aware Scheduling은 독립 작업과 선행 작업의 실행 순서를 구분합니다. Workflow Construction과 Workflow Search는 의미적 하위 목표를 실행 연산으로 컴파일하며, Runtime Feedback은 중간 결과에 따라 남은 그래프와 Workflow를 재구성합니다.
Goal Decomposition과 Workflow Optimization을 세부 단계로 나누어 목표 그래프와 실행 Workflow가 어떻게 구성되고 수정되는지 나타낸 도식입니다.

Diagram
Agent Capability 부분은 각 Agent가 Planning, Coding, Retrieval 같은 능력과 Search API, Database, Memory Store 같은 자원에 어떻게 연결되는지 나타냅니다. Agent Team 부분은 Chain, Fan-out/Fan-in, Dynamic Team Structure를 비교하고, Communication 부분은 메시지 경로를 선택·제거·재구성하는 과정을 나타냅니다.
Agent Capability, Agent Team, Communication을 각각 능력·자원 연결, 팀 조직, 정보 흐름의 그래프로 표현한 도식입니다.

주요 결과

이 논문은 새로운 단일 모델의 정확도 수치를 보고하는 실험 논문이 아니라, LLM Agent 시스템을 구성하는 연구와 오픈소스 기술을 세 단계의 지능과 세 가지 그래프 관점으로 분류하는 Survey입니다. 분석 결과 개별 Agent의 도구 사용과 반복 실행을 넘어, 작업 분해와 Workflow 최적화, 전문 Agent의 팀 구성과 통신, 상태 기록과 복구가 System Intelligence의 핵심 구성 요소로 정리됩니다. 특히 System Evolution은 실행 피드백을 사용해 작업 그래프와 팀·통신 구조를 갱신하지만, 지속적인 시스템 진화는 아직 제한적이라는 연구 공백이 확인됩니다.

Task Organization 분야에서는 HuggingGPT, ReWOO, LLMCompiler, Plan-over-Graph가 작업 의존 관계와 병렬 스케줄링을 명시화하고, TDAG와 Flow가 실행 중 목표 그래프를 수정하는 흐름을 형성합니다. Workflow 분야에서는 GPTSwarm, ADAS, AutoFlow, AFlow가 그래프나 실행 코드 자체를 검색 대상으로 만들고, DyFlow, EvoFlow, QualityFlow가 중간 결과와 품질 신호에 따라 실행 구조를 바꿉니다. 이는 정적인 Pipeline보다 실행 중 재계획과 검증을 포함한 구조가 장기 작업에 더 적합한 연구 방향임을 보여줍니다.

Agent Coordination에서는 MetaGPT와 ChatDev의 순차 Chain, Magentic-One의 중앙 Routing, Mixture-of-Agents와 MacNet의 병렬 Fan-out/Fan-in, AgentNet과 SwarmAgentic의 동적 재구성이 서로 다른 협업 구조를 이룹니다. Runtime State Management에서는 Magentic-One의 Task·Progress Ledger, PatchBoard의 상태 Commit 검증, MAGE·AgentGit·Shepherd의 선택적 복구와 Replay가 실행 근거를 보존하는 방법으로 연결됩니다. 논문은 앞으로 구조 충실도, 운영 정확성, 시스템 진화, 거버넌스를 함께 평가해야 한다고 정리합니다.

기술 상세

논문은 Individual Agent를 Foundation Model, Agent Harness, 런타임 상태가 Agent Loop에서 결합된 구조로 정의합니다. Foundation Model은 언어 이해와 Reasoning을 제공하고, Harness는 Memory·Knowledge·Tool·Skill·Execution Environment에 접근하는 인터페이스를 제공하며, Loop는 Perception, Reasoning, Action, Feedback Processing, State Update를 반복합니다. Agent System으로 확장하면 각 Agent의 로컬 상태에 더해 공유 자원, 환경 변화, Agent 가용성, 작업 진행도, 실패 기록을 시스템 상태로 유지해야 합니다.

Task Organization의 Goal Decomposition Graph에서 노드는 하위 작업이나 중간 목표이고 간선은 선행, 데이터, 논리 관계입니다. 상위 목표를 입력받아 의존 그래프로 변환하면 선행 작업이 완료된 노드만 실행하고 서로 독립적인 가지는 병렬 처리할 수 있으며, 결과는 후속 작업의 입력으로 전달됩니다. Workflow Optimization은 이 목표 그래프를 실제 LLM 호출, Tool, Retrieval, Memory, Aggregator, Verifier 연산으로 컴파일하고, 실행 피드백을 사용해 노드와 간선을 추가·삭제·재배치합니다.

Agent Coordination은 세 종류의 관계를 결합합니다. Capability Graph는 Agent의 Skill, Resource, Permission, Reliability를 작업 적합성과 연결하고, Team Graph는 Chain·Routing·Fan-out/Fan-in 구조로 책임과 결과 전달을 정하며, Communication Graph는 현재 실행에서 활성화할 메시지 경로와 피드백 경로를 선택합니다. 이 구분을 사용하면 안정적인 역할 배치와 상황별 정보 흐름을 분리해 관리할 수 있고, Agent 성능·비용·자원 변화에 따라 통신 구조를 다시 구성할 수 있습니다.

Runtime State Management는 제안된 변경과 권위 있는 상태 사이에 검증 경계를 둡니다. 상태 업데이트가 입력되면 Schema, Role Permission, Runtime Invariant, Causal Order를 확인한 뒤 Commit하고, Append-only Event History와 Provenance를 이용해 과거 상태를 재구성하거나 Replay합니다. 오류가 감지되면 실행 Trace와 의존 관계에서 최초의 유효하지 않은 상태를 찾고, 영향받은 영역만 수정하거나 외부 효과에 대해서는 직접 Rollback 대신 Compensation을 수행한 뒤 새 상태를 다시 검증합니다.

관련 Figure

Diagram
State Recording은 실제로 실행된 작업과 Role Binding, 상태 업데이트를 기록하고, Fault Localization은 검증 실패와 Trace를 따라 최초의 잘못된 상태를 찾습니다. Failure Recovery는 Replan·Retry, Replay, Human Escalation 중 적절한 경로를 선택하고, 유효한 영역은 유지하면서 영향을 받은 영역만 다시 실행합니다.
State Recording, Fault Localization, Failure Recovery를 통해 실행 상태를 기록하고 오류를 찾은 뒤 안전한 경계에서 재개하는 과정을 나타낸 도식입니다.

한계점

논문은 Graph Engineering을 체계화한 Survey이므로 제안한 통합 그래프 구현의 성능을 하나의 공통 벤치마크에서 검증하지 않습니다. 기존 방법은 대체로 특정 작업이나 Orchestration 과정에 맞춰 Capability와 팀 구조를 만들기 때문에, 여러 작업 사이에서 재사용되고 갱신되는 지속적 그래프 표현이 충분히 마련되지 않았습니다. 또한 동적 재계획은 조작된 Planning Signal에 의해 바람직하지 않은 의존 관계와 실행 경로로 유도될 수 있으며, 지속적인 System Evolution은 아직 제한적이라고 명시합니다.

실무 활용

Graph Engineering은 복잡한 Coding, Research, Workflow 자동화에서 작업 의존 관계와 Agent 책임, 실행 상태를 분리해 설계할 때 활용할 수 있습니다. 논문이 제시한 구조를 적용하면 독립적인 하위 작업을 병렬 배치하고, 결과 검증을 별도 역할에 맡기며, 오류가 발생한 부분만 복구하는 실행 설계를 구성할 수 있습니다.

소프트웨어 장애 진단에서 Log 분석, 오류 재현, 코드 검사를 병렬 실행하고 수리와 테스트를 후속 단계로 연결하는 Workflow
과학적 발견 과정에서 문헌 분석, 실험 설계, 구현, 독립 검증을 전문 Agent에 할당하고 중간 결과를 공유하는 Agent Team
장기 Coding Agent에서 상태 버전, 작업 출처, 권한 검사를 기록한 뒤 실패한 실행 영역만 Rollback하거나 재실행하는 복구 시스템
여러 Agent의 메시지 비용과 기여도를 관찰해 중복 Communication Edge를 제거하고 작업 상태에 맞는 통신 구조를 재구성하는 Orchestration

코드 공개 여부: 공개

코드 저장소 보기

키워드

Graph Engineering(그래프 기반 Agent 시스템 설계)System Intelligence(시스템 지능)LLM Agent(대규모 언어 모델 기반 Agent)Multi-Agent System(다중 Agent 시스템)Task Organization(작업 조직화)Agent Coordination(Agent 조정)Runtime State Management(런타임 상태 관리)Workflow Optimization(Workflow 최적화)

용어 해설

시스템 지능(System Intelligence): — 여러 전문 Agent와 도구를 하나의 목표 아래 배치하고 조정하는 시스템 수준의 능력입니다. 복잡한 목표를 하위 작업으로 나누고, 각 작업에 적합한 구성 요소를 할당하며, 실행 상태와 실패 복구까지 관리하는 구조를 뜻합니다.
Agent Harness: — Foundation Model을 외부 지식, 메모리, 도구, 실행 환경과 연결하는 지속적 런타임 계층입니다. Harness는 Agent가 사용할 수 있는 자원과 권한을 제공하고, 여러 Model 호출 사이에서도 해당 자원과 상태가 유지되도록 구성합니다.
런타임 상태 관리(Runtime State Management): — 분산된 Agent와 도구가 실제로 수행한 작업, 상태 변화, 의존 관계, 외부 효과를 기록하고 추적하는 체계입니다. 상태 기록을 바탕으로 오류가 처음 발생한 지점을 찾고, 검증된 경계에서 실행을 재개하거나 되돌립니다.
목표 분해(Goal Decomposition): — 복잡한 상위 목표를 여러 하위 목표와 작업 노드로 나누고, 노드 사이의 선행 관계와 데이터 흐름을 그래프로 표현하는 방법입니다. 명시적인 의존 관계가 있으면 준비된 작업을 병렬 실행하고, 중간 결과에 따라 남은 작업 구조를 수정할 수 있습니다.

LLM Agent 시스템을 그래프로 조직하는 방법

왜 중요한가

핵심 기여

핵심 아이디어 이해하기

방법론

주요 결과

기술 상세

한계점

실무 활용

키워드

용어 해설

관련 토론

댓글

관련 기사

AI 에이전트 워크플로우를 구조화하는 그래프 엔지니어링의 실체.

에이전트 그래프 설계 시 성능과 비용을 최적화하는 실전 전략.

AI Agent를 8개 레이어로 나눈 구조

쉽게 익히는 Agentic AI 핵심 개념 10가지

2026 최소 AI 엔지니어 툴킷

왜 중요한가

핵심 기여

핵심 아이디어 이해하기

방법론

주요 결과

기술 상세

한계점

실무 활용

키워드

관련 토론

댓글

관련 기사

AI 에이전트 워크플로우를 구조화하는 그래프 엔지니어링의 실체.

에이전트 그래프 설계 시 성능과 비용을 최적화하는 실전 전략.

AI Agent를 8개 레이어로 나눈 구조

쉽게 익히는 Agentic AI 핵심 개념 10가지

2026 최소 AI 엔지니어 툴킷