LLM 에이전트의 절차적 메모리 관리: 제어·적응·평가

산업용 에이전트는 반복적인 절차형 작업이 많아 추론 비용과 신뢰성 문제가 발생한다는 점에서 절차적 메모리는 실무 효용이 크다. 논문은 스킬을 단순한 프롬프트 조각으로 보지 않고 실행 트레이스에서 진화시키는 관점으로 전환하여 전이 가능성과 특수화 간 균형을 평가했다. 이 평가는 에이전트 플랫폼에서 스킬을 버전 관리하고 업데이트할 때 실제 유의미한 성능·비용 변화를 측정할 수 있는 근거를 제공한다.

출발점은 산업용 에이전트의 많은 과제가 반복적이고 절차화된 작업이라는 점이다. 반복 작업에서 유용한 것은 일회성 답변이 아니라 재사용 가능한 절차적 지식으로서, 이를 프롬프트에 미리 주입하면 런타임 탐색·계획 비용을 낮출 수 있다. 기존 접근은 스킬을 고정된 아티팩트로 취급하거나 단일 환경에서 진화시켜 외부 분포로의 전이를 검증하지 못했다. 논문 해결 원리는 실행 트레이스(pool)를 통해 스킬을 진화시키고 진화된 스킬을 여러 분포에서 평가해 '특이성(specificity)'과 '일반성(generality)'을 분리하는 것이다. 구체적으로 스킬 업데이트 연산자 U가 초기 스킬 Σ0와 트레이스 𝒟src를 입력으로 받아 새로운 스킬 Σ′를 생성하며, 다양한 p_src로부터의 트레이스가 포함되면 전이 성능 V(Σ′;c)가 향상되는지를 측정한다. Evolution 허브는 이 과정을 재현 가능하게 만들고 리플렉터를 바꿔가며 업데이트 방식을 비교할 수 있도록 했다. 이 접근이 달라지게 하는 점은 경험의 다양성이 범용 스킬을 만든다는 명확한 실험적 증거를 제공한 것이다. 논문에서 다중 모델 출처의 경험으로 진화한 스킬은 교차 모델 테스트에서 73.1% 정확도를 기록했으며 이는 단일 소스의 36.0–59.4% 범위를 크게 상회했다. 반대로, 단일 역할에서 수집한 트레이스로 진화한 스킬은 다른 역할로 전이될 때 -4.8에서 -7.5 포인트의 성능 손실을 보였고, 이로써 진화 방식 설계에서 소스 다양성의 중요성이 수치로 확인되었다.

데이터 구성은 382개의 업무 과제를 여섯 개 역할과 22개 스킬로 주석 처리하여 역할별·스킬별 분포를 만들었다. 각 과제는 자동 검증(pytest)과 전문가 리뷰를 거쳐 성공 기준이 정의되었고 과제별로 필요한 최소 스킬을 고정하여 스킬 품질과 검색 성능을 분리했다. 스킬 본문은 수작업(H)과 LLM이 생성한(G) 두 버전으로 준비하여 사람과 자동 저술의 효과를 비교할 수 있게 했다. 평가 지표로는 부분 진행을 측정하는 M1과 완전 성공을 측정하는 M2를 사용했다. M1은 각 시도에서 통과한 테스트 수의 비율을 평균한 값이며 M2는 각 시도에서 모든 테스트를 통과한 경우를 이진으로 집계해 과제 평균을 냈다. 전이 실험은 동일 분포 내의 특이성 평가와 과제·역할·모델 분포를 변화시킨 일반성 평가로 나뉘었다. 진화 실험은 Evolution 허브를 통해 이루어졌으며 Collect–Diagnose–Revise–Promote 사이클로 트레이스 수집과 스킬 버전 관리를 실시했다. 리플렉터는 트레이스를 분석해 실패 모드를 요약하고 새로운 스킬 본문을 생성하며, 논문에서는 Codex, Hermes, Memento 등 여러 업데이트 방식을 동일한 조건에서 비교했다. 진화 조건은 좁은 소스(n=1)와 다양한 소스(n=5)를 설정해 학습·테스트(훈련·검증) 이득의 차이를 측정했다.

정적 스킬 주입 실험에서 스킬 도입은 역할·모델에 따라 차등적으로 영향을 미쳤으며 평균적으로 M2 기준 +2.8 포인트의 이득이 관측되었다. LLM이 생성한 스킬(G)이 수작업 스킬(H)을 능가하는 경우가 잦았고 약한 모델에서 스킬의 개선 효과가 더 뚜렷하게 나타났다. 단일 라운드의 리파인먼트는 전체적으로 추가 +5.2 포인트의 향상을 만들었고 대형 모델에서 특히 Infra·SWE 역할의 이득이 컸다. 스킬 진화 비교에서 좁은 소스 경험은 훈련집합 성능을 크게 향상시키나 검증집합 전이에는 실패하는 사례가 많았다. 다양한 소스 경험으로 진화된 스킬은 교차 모델 전이에서 73.1%의 테스트 정확도를 기록하여 단일 모델 출처 대비 최소 +13.7 포인트 우위를 보였다. 교차 역할 전이 실험은 스킬이 역할 목적에 특화될 수 있음을 보여주었는데, PM에서 진화한 pdf 스킬을 DS에 적용하면 -4.8에서 -7.5 포인트의 성능 하락이 발생했다. 토큰 효율성 분석에서는 진화된 스킬이 실행 시점에서의 탐색과 반복을 감소시켜 토큰 사용을 크게 줄였다. 예시로 Kafka Lag Anomaly Detection 과제에서 진화된 스킬은 Claude 기준으로 326k 토큰(약 62%)을 절감하고 Hermes 기준으로 48k 토큰(약 16%)을 절감했다. 이 데이터는 진화가 비용 측면에서도 실질적 이득을 만든다는 근거가 된다.

전체 아키텍처는 SKILL.md 단위의 버전화된 스킬 저장소와 Evolution 허브로 구성된다. 각 스킬은 YAML 메타데이터와 마크다운 본문을 포함하며 에이전트 실행 시 해당 스킬 버전이 프롬프트에 주입되고 실행 트레이스와 연결된다. 트레이스는 실패 원인·입출력 로그·검증 결과를 포함해 리플렉터가 진단 가능한 형태로 축적된다. 스킬 업데이트는 수학적 최적화 문제로 정식화되며, 초기 스킬 Σ0와 소스 트레이스 𝒟src가 주어졌을 때 업데이트 연산자 U는 U^{*}= argmax_{U i, ext{admissible}} E_{\mathcal{D}{ ext{src}} ext{,} c ext{}}igl[Vigl(U(\Sigma{0},\mathcal{D}_{ ext{src}});cigr)igr] 의 기대값을 최대화하도록 정의된다. 여기서 제약은 소스 트레이스 예산 |𝒟src|≤N이며 p_tgt 분포를 변화시켜 일반성 평가를 수행한다. 업데이트 메커니즘은 리플렉션·증류·학습된 메모리 쓰기 정책 등으로 구현될 수 있다. 실험적 구현에서는 다양한 LLM을 솔버로 사용하고 동일한 Qwen3.5-35B-A3B 솔버 기반 조건에서 프레임워크별 비교를 수행했다. 트레이스와 스킬 관리는 Evolution이 표준화했으며 리플렉터로 Codex·Hermes·Memento·MemP·EvoSkill 등 여러 접근을 비교했다. 좁은 소스(n=1)와 다양한 소스(n=5)를 설정해 훈련·테스트 이득 Δ_tr/Δ_te를 측정했고 결과 해석은 소스 다양성과 과적합의 균형에 초점을 맞췄다.

벤치마크 표집이 기술 업종 역할에 치우쳐 있어 의료·법률·과학 연구 등 다른 도메인에 대한 결론을 일반화할 수 없다. 실험은 각 진화 런마다 고정된 트레이스 예산을 사용해 대규모 장기 축적 효과와 예산-전이 관계를 탐색하지 않았다. 자동화된 pytest 기반 검증은 기능적 정합성만 측정하며 코드 가독성·엣지 케이스 강건성·사용자 선호도 같은 품질 지표는 포함하지 않는다.