Embodied Agent Architecture Search 자동화를 위해 AgentCanvas와 KDLoop를 도입한 논문이다.

왜 중요한가

에이전트 설계가 감춰진 엔드투엔드 정책과 달리 모듈형 구조에서는 정보 저장 위치와 호출 연결을 편집할 수 있어 수동 설계의 한계를 자동화로 극복할 가능성이 있다. 본 연구는 텍스트 도메인에서 성공한 AAS 기법들을 시각·행동을 포함하는 퍼셉추얼 환경으로 이식하면서 평가 노이즈, 국소 편집 분지, 에피소드 수준 귀착과 같은 현실적 제약을 실험적으로 확인하였다. 따라서 자동 아키텍처 탐색이 실제 로봇·시뮬레이터 기반 에이전트에 적용될 때 필요한 런타임·메모리 구조와 검증 절차에 대한 실질적 지침을 제공한다.

핵심 기여

AgentCanvas: typed-graph 런타임의 도입

AgentCanvas는 노드와 와이어로 표현되는 JSON 그래프를 파이썬 노드 모듈과 연결하여 시뮬레이터에서 직접 실행 가능한 실행 기질을 제공한다. 각 노드는 타입화된 포트를 통해 입력·출력 호환성을 검사하므로 구조적 패치가 실행 전 안전성을 확보하고 다중 워커로 에피소드 평가를 확장할 수 있다. 에피소드 단위의 노드 발화 기록과 디버깅용 브레드크럼을 자동으로 수집하여 옵티마이저가 구조적 증거를 접근할 수 있게 만들었다.

KDLoop: 에피소드 증거를 보존하는 순환형 탐색 절차

KDLoop는 Think, Critic, Experiment, Distill 네 단계로 구성된 반복 루프에 Reflect를 조건부로 추가하여 탐색 이력을 타입화된 메모리에 저장한다. KDLoop는 제안된 편집을 개입 축(axis)으로 태그하고 실패·성공 기록을 구조화하여 반복적인 지역 재샘플링을 줄이는 목적을 갖는다. 이 구조는 편집 커버리지를 늘리는 대신 한 분지를 깊게 활용하지 못하는 트레이드오프를 야기함이 실험에서 관찰되었다.

코딩-에이전트 허브를 공유한 포팅·비교 인프라

ADAS와 AFlow의 제안 로직을 동일한 코딩-에이전트 허브로 포팅하여 세 옵티마이저를 공통 실행·평가 파이프라인에서 비교할 수 있게 구성하였다. 구현·평가·로그 수집·파일 액세스 계약을 고정함으로써 성능 차이가 제안 정책과 메모리 구조에 기인하는지를 분리하여 측정했다. 이 일관된 허브는 실제 멀티파일 embodied 실행 공간에서 후보 생성과 적용의 복잡도를 처리하도록 설계되었다.

퍼셉추얼 작업군에서의 체계적 실험과 실패 모드 규명

네 개의 시드 실행기(Executors)와 세 옵티마이저의 3×4 매트릭스 실험에서 일부 조합이 재현 가능한 성공률 향상을 보였지만 동시에 평가 노이즈, 로컬 편집 분지, 에피소드 귀착 미흡이라는 제약이 반복 관찰되었다. 실험은 MapGPT에서 AFlow·KDLoop가 약 54% SR 수준으로 개선한 반면 SmartWay의 한 사례는 평가기 유출(leak)로 인한 허위 고득점을 확인하여 배포 불가로 분류하였다. 이러한 결과는 embodied AAS가 실전 적용 시 검증·재평가·원인귀속을 체계화해야 함을 시사한다.

핵심 아이디어 이해하기

모듈형 embodied 에이전트는 지각, 메모리, 계획, 동작 모듈을 명시적으로 연결하므로 구조 자체가 설계 대상이다. 이 구조는 사람이 편집 가능한 장점이 있으나 센서 추상화, 지도 표현, 메모리 상태, 프롬프트 구조 등 선택지의 조합이 폭발적으로 증가하여 수동 튜닝만으로는 최적 설계를 찾기 어렵다. 따라서 아키텍처 자체를 탐색 대상으로 삼는 자동화가 실무적 필요성을 가진다. 텍스트 도메인에서의 AAS는 주로 값싼 상태 없는 LLM 호출과 제한된 연산 단위(operator)로 동작했으나, 퍼셉추얼 에이전트는 상태가 있는 시뮬레이터와 긴 실행 흔적(trace)을 만든다. 이 차이 때문에 후보 평가가 다회 에피소드의 성공률로 정의되고 로그의 노이즈가 성능 신호를 가리지 않아 탐색 정책이 스칼라 지표에만 의존하면 잘못된 결정을 내릴 위험이 있다. 따라서 실행 가능한 서브스트레이트와 에피소드 로그를 구조화하여 옵티마이저가 메커니즘 수준의 증거를 접근할 수 있어야 한다. AgentCanvas와 KDLoop의 핵심 직관은 구조적 실행 컨트랙트와 타입화된 메모리가 탐색의 신뢰성을 높일 수 있다는 점이다. AgentCanvas는 그래프 패치를 타입 검사로 제한하여 실행 불일치 오버헤드를 줄이고, KDLoop는 제안 축을 태깅하고 Distill 단계에서 확인된 지식을 보존하여 동일 분지의 반복 재탐색을 줄인다. 이 조합은 탐색의 커버리지를 개선하면서도 탐사와 활용의 균형을 조절해야 한다는 실용적 교훈을 가져왔다.

방법론

전체 접근은 실행자(Executor)와 옵티마이저(Optimizer)를 분리하는 구조로 설계되었다. 실행자는 AgentCanvas에서 타입화된 노드·와이어 그래프로 표현되며 시뮬레이터 내에서 각 노드의 입출력과 내부 브레드크럼을 기록한다. 옵티마이저는 독립적인 코딩-에이전트 허브를 통해 그래프 JSON과 노드 코드를 수정하고, 수정된 에이전트를 여러 에피소드로 평가하여 성공률을 측정한다. AgentCanvas 런타임에서는 노드 포트의 타입 호환성 검사를 패치 적용 전 단계에서 수행하여 런타임 오류를 줄인다. 시뮬레이터 의존 노드는 워커별로 복제하고, 파운데이션 모델 노드는 싱글턴 서비스로 유지해 모델 재로딩 비용을 피하면서 배치 처리를 가능하게 하였다. 모든 노드 발화와 툴 호출, 플래너 결정은 에피소드 로그로 수집되어 옵티마이저가 접근할 수 있다. 세 옵티마이저 구현은 동일한 허브를 공유하되 제안자(proposer) 로직과 지속 메모리만 다르게 유지하였다. ADAS는 Reflexion 유사 구조와 부트스트랩 CI 기반 샘플링을 유지했고 AFlow는 score-softmax 기반 부모 선택과 anti-replay 메모리를 사용하였다. KDLoop는 Think→Critic→Experiment→Distill 순환과 정체 시 Reflect 트리거를 도입하여 개입 축을 태깅하고 확인된 결과를 타입화된 메모리에 기록했다.

주요 결과

표 1의 3×4 행렬에서 여러 셀에서 그래프 수준의 탐색이 시드 대비 재현 가능한 SR 개선을 기록하였다. 예컨대 MapGPT에서는 AFlow와 KDLoop가 시드 46.9 ± 3.1%에서 각각 54.5 ± 3.1%와 54.0 ± 2.3%로 방향성 있는 향상을 보였고 ExploreEQA에서는 AFlow가 47.7 ± 2.1%로, KDLoop가 46.0 ± 1.0%로 소폭 개선되었다. VoxPoser와 SmartWay 일부 셀에서도 후보가 선택되었으나 SmartWay의 AFlow 결과는 evaluator-side 정보 유출로 배포 불가로 표시되었다. 평가 노이즈가 결과 해석에서 중요한 제약으로 관찰되었다. SmartWay 셀의 단일-패스 최고 점수는 재연 시 43/32/41%와 같이 큰 분산을 보여 단일-패스 선택이 과대평가를 초래할 수 있음을 드러냈다. 논문은 이 문제를 완화하기 위해 선택 단계와 후속 재평가(세 번의 포스트셀렉션 패스)를 구분하여 보고하였고 KDLoop는 세 패스 평가 바닥을 내부화해 일부 안정성을 확보했다. 탐색 역학 관점에서는 로컬 편집 분지가 빈번하게 발생하여 ADAS와 AFlow가 동일 메커니즘 주변을 반복적으로 탐색하는 경향을 보였다. KDLoop의 타입화된 이력은 이 반복을 줄여 전체 공간 커버리지를 개선했지만 유용한 분지를 깊게 활용하지 못하는 트레이드오프도 확인되었다. 또한 에피소드 로그 접근만으로는 자동 귀착이 일관되게 발생하지 않았고, VoxPoser의 로그 결손을 KDLoop만이 늦게 발견하는 등 증거 기반 귀착이 아직 완전하지 않음이 드러났다.

기술 상세

시스템 아키텍처는 Executor와 Optimizer의 분리로 구성되며 Executor는 AgentCanvas의 타입화된 노드·와이어 JSON로 표현된다. 노드들은 명시적 입력·출력 포트를 가지며 패치 전 타입 호환성 검사로 구조적 무결성을 확보한다. 시뮬레이터 종속 노드의 복제와 모델 노드의 싱글턴 배치가 병렬 다회 롤아웃을 가능하게 하여 평가 스루풋을 확보했다. 코딩-에이전트 허브는 파일 시스템 접근, 셸 명령, 테스트 실행 권한을 제공하여 옵티마이저가 멀티파일 코드베이스를 수정할 수 있게 한다. 모든 옵티마이저는 동일한 구현·평가·로깅 계약을 공유하므로 성능 차이는 제안 정책과 지속 메모리 설계에 기인하도록 통제되었다. 에피소드 레벨 로그에는 노드 발화, 플래너 결단, 툴 호출, 내부 프롬프트 등이 포함되어 옵티마이저가 구조적 증거에 접근 가능하다. KDLoop의 메모리 구성은 타입화된 레코드를 중심으로 한다. 각 제안은 intervention axis(예: prompt, topology, observation, state-memory, model-config)로 태깅되며 Distill 단계는 확인된 변경·반박된 편집·미해결 추측·탐색 커버리지를 기록한다. Reflect 단계는 일정 기간 진전이 없을 때 공간 커버리지를 감사하고 일부 축을 소진된 것으로 표시하여 반복 재샘플링을 억제한다. 이 설계는 탐사-활용 균형을 조절하나 과도한 커버리지 바이어스는 유용한 분지를 조기 이탈시킬 수 있다.

한계점

논문에서 명시한 한계로 첫째, AgentCanvas는 노드·와이어 형태의 워크플로로 표현 가능한 실행기들을 다루며 런타임에 동적으로 생성되는 제어흐름이나 도구 구성을 온전하게 포함하지 못한다. 둘째, 롤아웃 기반 평가는 비용이 크고 노이즈가 커서 단일 패스 최고 점수만으로 후보의 진정한 품질을 신뢰할 수 없으며 추가적인 재평가 메커니즘이 필요하다. 셋째, 에피소드 수준의 로그가 제공되어도 자동 귀착이 일관되게 실현되지 않았고 옵티마이저가 로그를 적극적으로 활용하도록 하는 명시적 기법이 필요하다.

실무 활용

AgentCanvas와 공개된 코드를 통해 연구자가 기존 퍼셉추얼 에이전트 아키텍처를 실행 가능한 그래프 형태로 변환하고 자동 탐색 인프라에서 후보 패치를 신속하게 평가할 수 있다. 실험에 사용된 코드는 GitHub 저장소에 공개되어 있어 실무에서 시뮬레이터 기반 아키텍처 탐색을 재현할 수 있다. 다만 노이즈가 큰 롤아웃 환경에서는 후보 검증을 위한 재평가 체계를 갖추어야 배포 가능성을 확보할 수 있다.

시뮬레이터 기반 embodied 에이전트의 그래프 수준 설계 대안을 대규모로 평가하는 연구·개발 파이프라인 구성
에피소드 로그를 수집하여 그래프 수정의 원인 귀착을 시도하고 구조적 결함을 찾아내는 디버깅 워크플로
시드 아키텍처를 기반으로 한 근접 구조 탐색을 자동화하여 사람 손설계의 반복 비용을 줄이는 프로토타이핑

코드 공개 여부: 공개

코드 저장소 보기

키워드

Agent Architecture Search(AAS)(에이전트 아키텍처 검색)AgentCanvas(typed-graph 런타임)KDLoop(지식 증류 순환)Embodied Agents(퍼셉추얼 에이전트)Simulator Rollouts(시뮬레이터 롤아웃)

용어 해설

타입드 그래프(Typed-Graph): — 노드와 와이어로 구성된 실행 그래프에서 각 포트가 입력·출력 타입을 갖는 표현 방식이다. AgentCanvas에서는 노드 간 연결 호환성을 타입으로 검사하여 시뮬레이터 내에서 안전하게 그래프 수정을 적용하고 다중 에피소드 평가를 병렬화한다. 타입 안정성은 실행 중 인터페이스 불일치로 인한 런타임 오류를 줄이고, 구조적 변경을 자동화된 탐색기에서 검증하는 핵심 수단이다.
시뮬레이터 롤아웃(Simulator Rollout): — 에이전트 실행이 환경에서 완료되는 하나의 에피소드 시퀀스로, 관찰, 행동, 도구 호출, 내부 플래너 출력과 성공 여부를 포함한다. 본 논문에서는 다회 롤아웃의 성공률을 후보 그래프의 fitness로 사용하며 롤아웃 횟수와 노이즈가 성능 추정의 분산을 결정한다. 롤아웃 로그는 에피소드 수준의 원인 귀착(attribution)을 시도할 때 중요한 증거 소스이다.
에피소드 수준 신용 할당(Episode-Level Credit Assignment): — 단일 에피소드 안에서 어느 구성 요소(관찰 파이프라인, 메모리, 플래너 등)가 성공 또는 실패에 기여했는지를 판별하는 절차이다. 논문은 풍부한 에피소드 로그가 존재해도 자동 탐색기가 일관되게 메커니즘 수준의 원인을 식별하지 못하는 현실을 관찰하였다. 에피소드 귀착은 탐색자가 단순한 스칼라 평가지표를 넘어서 구조적 증거를 수집·보존할 때만 부분적으로 실현되었다.
코딩 에이전트(Coding-Agent): — 코드 저장소를 열람하고 파일 패치를 생성하며 테스트를 실행하는 LLM 기반의 자동화 에이전트 계열이다. 본 실험에서는 모든 옵티마이저가 공동의 코딩-에이전트 허브를 통해 그래프 패치와 노드 구현을 적용하고 시뮬레이터 평가를 트리거하였다. 코딩-에이전트는 복수 파일·런타임 종속성·테스트 로그를 다루는 embodied AAS에서 후보 생성과 적용을 자동화하는 핵심 구성요소이다.
지역 편집 분지(Local Edit Basin): — 탐색 도중 높은 단기 보상을 주는 그래프 변경군이 형성되어 옵티마이저가 그 주변만 반복적으로 탐색하는 현상이다. 논문은 ADAS와 AFlow에서 동일한 편집 계열이 반복 시도되어 전체 공간의 커버리지가 부족해지는 사례를 관찰하였다. KDLoop는 타입화된 이력으로 반복 재샘플링을 줄이는 대안을 도입했으나 탐사-활용 균형이 바뀌어 유용한 분지를 일찍 이탈할 위험도 있었다.

Embodied Agent Architecture Search 자동화를 위해 AgentCanvas와 KDLoop를 도입한 논문이다.

왜 중요한가

핵심 기여

핵심 아이디어 이해하기

방법론

주요 결과

기술 상세

한계점

실무 활용

키워드

용어 해설

관련 토론

댓글

관련 기사

AI 에이전트 아키텍처의 5단계 진화와 평가 전략의 변화.

왜 중요한가

핵심 기여

핵심 아이디어 이해하기

방법론

주요 결과

기술 상세

한계점

실무 활용

키워드

관련 토론

댓글

관련 기사

AI 에이전트 아키텍처의 5단계 진화와 평가 전략의 변화.