이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.
TL;DR
LLM 에이전트는 긴 실행 기록을 바탕으로 행동을 생성하면서 절차와 순서를 암묵적으로 처리하기 때문에 목표를 놓치거나 도구를 잘못된 순서로 호출하고 비생산적인 행동을 반복할 수 있습니다. Procedural Graph는 절차와 절차 사이의 관계를 삼중항으로 저장하고, 현재 노드 주변의 부분 그래프를 단계별 상황 지침으로 바꿔 다음 행동에 편향을 주되 선택 자체를 강제하지 않습니다. LLM refiner는 성공 궤적과 실패 궤적을 비교해 그래프의 구조와 속성을 수정하고, 홀드아웃 검증 성능을 유지하거나 높이는 변경만 반영하며 거부된 변경도 기록합니다. 여러 데이터셋과 작업 유형, LLM에서 메모리 기반 기준선보다 일관된 성능 향상이 나타났고, self-evolution이 수작업 설계 없이 추가 개선을 이끌었습니다.
섹션별 상세
긴 시간 동안 도구를 사용하는 LLM 에이전트는 누적된 실행 기록에서 다음 행동을 생성하므로 무엇을 어떤 순서와 조건에서 해야 하는지가 명시적으로 남지 않습니다. 실행이 길어지면 목표를 놓치거나 도구 호출 순서를 어기고, 이미 효과가 없었던 행동을 되풀이할 수 있습니다. Procedural Graph는 이 절차 지식을 별도 구조로 저장해 긴 대화 기록에만 의존하는 실행 방식의 한계를 줄이는 출발점을 마련합니다.
일반적인 Knowledge Graph가 엔터티와 관계를 엔터티의 삼중항으로 저장한다면, Procedural Graph는 절차와 절차 사이의 관계를 절차 삼중항으로 기록합니다. 매 의사결정 단계에서 에이전트의 현재 활성 노드를 찾고, 주변 부분 그래프를 guidance model이 단계별 상황 지침으로 변환해 solver의 다음 행동에 편향을 줍니다. 지침이 행동을 명령하지 않으므로 그래프가 잘못된 경우에도 solver가 다른 선택으로 벗어날 여지를 유지합니다.
그래프의 갱신에는 실패 궤적과 성공 궤적을 대조하는 LLM refiner가 사용됩니다. Refiner는 그래프의 연결 구조와 속성을 편집한 뒤, 별도로 보류한 검증 데이터에서 성능이 유지되거나 향상되는 변경만 반영하고 거부한 변경은 다시 기록하지 않도록 저장합니다. 최소한의 뼈대에서 시작해 수작업으로 설계한 그래프와 같거나 더 나은 그래프를 만들고, 결함이 있는 전문가 사전 지식도 수정할 수 있다는 점이 이 절차의 핵심입니다.
여러 데이터셋과 작업 유형, backbone LLM을 대상으로 Procedural Graph가 메모리 기반 기준선보다 일관된 성능 향상을 기록했습니다. 여기에 self-evolution을 추가하면 사람이 그래프를 수동으로 설계하지 않아도 성능이 더 높아졌습니다. 따라서 절차 지식을 실행 기록 속에 암묵적으로 남기는 대신 질의 가능한 구조로 분리하고, 실제 성공·실패 결과로 그 구조를 검증하는 방식이 장기 실행 에이전트의 행동 선택에 유리한 비교 틀을 제공합니다.
용어 해설
- 지식 그래프(Knowledge Graph)
- — 지식 그래프는 사실을 엔터티와 관계의 삼중항으로 저장해 질의 가능한 구조를 만드는 방식입니다. 이 글에서는 Procedural Graph와 대비되며, 무엇이 무엇과 어떤 관계인지 표현하는 기반 개념으로 쓰입니다.
- 궤적(Trajectory)
- — 궤적은 에이전트가 목표를 수행하며 순서대로 선택한 행동과 그 결과의 흐름입니다. 이 글의 self-evolution 과정에서는 성공한 궤적과 실패한 궤적의 차이를 비교해 그래프 수정 근거로 활용합니다.
- 홀드아웃 검증(Held-out Validation)
- — 홀드아웃 검증은 그래프를 수정하는 데 직접 사용하지 않은 별도 데이터로 변경 효과를 확인하는 절차입니다. Procedural Graph는 이 검증 성능을 유지하거나 높이는 편집만 반영해 과도한 자기수정을 제한합니다.
- 메모리 기반 기준선(Memory-based Baseline)
- — 메모리 기반 기준선은 에이전트가 이전 상호작용이나 실행 기록을 축적해 다음 행동을 결정하는 비교 방식입니다. 이 글에서는 절차를 명시적 그래프로 구조화하는 접근과 성능을 비교하는 기준으로 사용됩니다.
기술
- LLM
- Procedural Graph
활용 사례
- 외부 도구를 사용하는 장기 실행 에이전트
- 절차와 도구 호출 순서가 중요한 에이전트 작업
- 실패 궤적을 활용한 에이전트 실행 구조 개선
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 09. 10.수집 2026. 09. 10.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
