다중 에이전트 시스템 최적화를 위한 그래디언트 기반 연결(GBC)

다중 에이전트 시스템은 역할 분화로 복잡한 작업을 처리하지만, 어떤 에이전트의 어떤 토큰이 실패를 초래했는지 식별하기 어려워 최적화가 제한된다. 본 논문은 토큰 수준의 기여도를 계산해 오류 원인을 정밀하게 추적함으로써 프롬프트 기반 최적화의 타겟을 좁히고 성능 향상을 가능하게 했다.

다중 에이전트 시스템은 입력이 여러 에이전트로 전달되며 각 에이전트의 출력이 다음 에이전트의 입력으로 누적되는 형태로 동작한다는 점에서 계산 그래프로 자연스럽게 표현될 수 있다. 이 구조에서 최종 손실은 중간 출력의 작은 부분, 심지어 특정 토큰의 영향으로부터 기인할 수 있으므로 전체 시스템 성능을 개선하려면 오류 기여를 정밀하게 할당할 필요가 있다. 기존의 전역적 보상이나 대화 단위 손실은 이러한 세부 원인 규명에 한계가 있었다.

GBC는 네 단계로 작동한다. 첫째, 입력이 매니저와 도메인별 워커를 거쳐 최종 응답을 생성하는 에이전트 그래프를 전방 계산으로 실행한다. 둘째, 각 하위 출력 O_u가 상위 출력 O_v에 미치는 영향력을 그래디언트 기반 연결 가중치 W_{O_v}(O_u)로 계산해 기여도 그래프를 구성한다. 셋째, 최종 출력에 붙인 자연어 기반의 task-specific verbal loss를 기초로 기여도 그래프를 통해 역전파를 수행해 각 출력의 손실 기여 궤적을 수집한다. 넷째, 수집된 기여 궤적을 입력으로 언어모델 기반 옵티마이저가 에이전트 프롬프트를 재작성하여 반복적으로 성능을 향상시킨다.

MultiWOZ 실험에서 Qwen-3-32B 멀티에이전트 시스템은 최적화 전 JGA 28.9, Slot F1 79.3이었다. GBC로 mean of L1 norm 최적화를 수행한 결과 JGA가 54.4로 상승하고 Slot F1이 91.4로 개선되었으며 Inform과 Success는 각각 99.0과 94.0에 도달해 다수 지표에서 단일 에이전트 기준을 상회했다. ττ-bench 소매 도메인 실험에서는 Qwen-3-32B의 전체 보상이 최적화 전 13.0에서 max L1 norm 또는 mean product with input에서 24.3으로 증가해 액션 보상 및 출력 보상 동시 개선이 성능 향상에 기여했다. 오류 유형 분석과 업데이트 빈도 분석에서 도메인별 워커가 빈번히 갱신되었고, cross-domain 오류·정보 누락·검색 실패가 주요 성능 병목으로 확인되어 GBC가 이러한 조정 지점을 효과적으로 찾아냈다.

아키텍처는 에이전트 그래프 G=(V,E)로 정의되며 각 에이전트 v는 프롬프트-모델 쌍(P_v, M_v)으로 표현된다. 각 에이전트 출력 O_v는 O_v = M_v(P_v + I_v) 형태로 계산되며, I_v는 선행 에이전트 출력의 합으로 구성되어 토큰 수준의 정보가 누적된다. 이 구조는 기여도 산정과 역전파를 위한 계산 그래프라는 관점을 제공한다. 기여도 가중치 W_{O_v}(O_u)는 네 가지 변형으로 계산된다. mean/max L1 norm은 출력 확률의 토큰별 그래디언트의 L1 노름을 평균 또는 최댓값으로 집계해 토큰 중요도를 산정한다. mean/max gradient–input product는 각 토큰의 그래디언트와 해당 입력 임베딩을 곱해 1차 상호작용을 반영한 값을 평균 또는 최댓값으로 집계한다. attribution graph는 각 출력에 대해 상위 m개의 선행 출력만 보존하는 방식으로 구성되며 기본적으로 m=1이 사용된다. 역전파 알고리즘은 손실 노드에서 시작해 pre_attr 관계를 따라 재귀적으로 경로를 누적해 각 주체별 기여 궤적 집합 T(s)를 생성한다. 프리픽스 기반 그래디언트 구현은 프롬프트 토큰을 먼저 forward-only로 처리해 KV 캐시를 얻고 입력 토큰에서만 그래디언트를 계산하는 방식으로 메모리 사용을 줄였다. 이로 인해 메모리 복잡도가 n·d·L에서 (n−k)·d·L로 감소해 긴 프롬프트 환경에서 실용성이 향상되었다. 옵티마이저는 언어모델을 사용해 현재 프롬프트, 기여도 궤적, 최적화 이력을 입력으로 받아 프롬프트를 재작성하는 루프를 수행하며 이 과정이 전체 학습 절차를 구성한다.

첫째, 계산 비용이 여전히 크다. 프리픽스 최적화로 메모리 사용은 줄었지만 기여도 계산을 위해 여러 번의 순전파·역전파가 필요해 블랙박스 방법보다 비용이 높다. 둘째, 최적화 결과가 verbal loss의 설계에 민감하다. 손실이 자연어로 표현되므로 손실 문구가 세밀하지 않으면 기여도 신호가 잡음으로 흐를 가능성이 있다. 셋째, 그래디언트 기반 신호는 1차 근사에 해당하므로 비선형 상호작용이 강한 장기적 워크플로의 모든 영향을 완전하게 포착하지 못할 수 있다. 넷째, 실험은 MultiWOZ와 ττ-bench, 매니저–워커 구조에 한정되어 있어 다른 도메인이나 동적 토폴로지에 대한 일반성은 추가 검증이 필요하다.