원시 경험에서 스킬 소비로: 모델 생성 에이전트 스킬에 대한 체계적 연구

언어 에이전트가 과거 경험에서 도메인 수준의 스킬을 재활용해 성능을 개선한다. 본 연구는 경험 생성, 스킬 추출, 스킬 소비의 전체 생애주기를 평가하고, 상호작용이 결과에 비대칭적으로 작용함을 밝히며, 메타-스킬을 제안한다.

단락 1: 언어 에이전트는 과거 실행으로부터의 지식을 스킬로 압축해 재사용한다. 도메인 수준의 스킬은 도메인 재사용성을 높이고 재훈련 없이도 적응 속도를 가속화한다. 그러나 스킬의 유용성은 타깃 모델과 도메인에 따라 달라진다. 단락 2: 연구는 경험에서 패턴(성공/실패)을 추출하고, 트리-구조의 축소로 하나의 도메인 스킬로 합친 뒤 대상 모델에 주입한다. 최종 평가는 held-out 테스트에서의 성능 차이로 산출된다. 단락 3: 텍스트 형식이나 plausibility가 예측에 도움되지 않는다는 점이 관찰되며, 실패 메커니즘 인코딩, 실행 가능 구체성, 고위험 차단 목록의 세 가지 차원이 역량 예측에 가장 강력한 신호임이 확인된다.

• Stage 1: 경험 생성은 도메인 D에서 타깃 모델 M이 Q train_D의 태스크를 수행해 경험 풀이 생성된다. 관찰 가능한 성공/실패 궤적이 구성된다. - Stage 2: 추출은 추출기 E가 τ_i에서 최대 K개의 성공/실패 패턴을 추출하고, G로 그룹화해 위계적 축소를 수행한 뒤 패턴을 SE,M,D로 변환한다. - Stage 3: 소비는 같은 타깃 모델 M에 SE,M,D를 주어 Qtest_D에서의 성능 변화를 측정한다. ∆(E,M,D) = Perf(M|SE,M,D,Qtest_D) - Perf(M|Qtest_D). EE(E,D) = 평균 ∆ over M, TE(M,D) = 평균 ∆ over E. - 추출 프레임워크는 per-trajectory 분석과 위계적 consolidation의 두 단계로 구성되며, 최소 설계로 extractor의 능력에 초점을 두고 파이프라인 엔지니어링의 영향을 최소화한다.

• 메인 벤치마크에서 스킬의 도입으로 75%의 엔트리에서 성능 향상, 25%에서 음의 전이가 나타난다. ALFWorld 도메인이 가장 취약하고 SWE-벤치류는 비교적 낮은 음의 전이율을 보였다. - 도메인별 TE가 다르게 나타나 타깃 간 소비 가능성 차이가 큼. - 같은 스킬을 서로 다른 타깃에 적용했을 때 '강한 풀' 스킬은 모든 타깃에서 이득을 가져오는 반면, '약한 풀'은 일부 타깃에서 음의 전이가 발생한다. - 추출 형식이나 텍스트 plausibility의 예측력은 제한적이며, 메타-스킬 루브릭 도입 후 nine-cell에서의 성과가 일관되게 개선되었다.

• 전체 아키텍처: 경험 생성(Stage 1) → 패턴 추출(Stage 2) → 스킬 합성(Stage 3)으로 구성된다. 각 단계는 입력 유형에 의존적이며, 3단계 간 경계가 명확하다. - 패턴 추출 메커니즘: per-trajectory 분석에서 각 궤적당 성공/실패 패턴을 최대 K개까지 추출하며, 이후 G 단위로 패턴 집합을 합치며 하나의 스킬 세트로 정리한다. - 스킬 형식: 스킬은 이름, 설명, 본문(body), 참조/스크립트 등을 포함하는 고정 스키마를 따른다. - 평가 지표: ∆(E,M,D) = Perf(M|SE,M,D,Qtest_D) − Perf(M|Qtest_D); EE(E,D) = 1/|M| Σ_M ∆(E,M,D); TE(M,D) = 1/|E| Σ_E ∆(E,M,D). - 비교/대응: 최소 구조의 추출 프레임워크를 사용해 추출기의 능력 차이가 성능 차이를 설명하도록 설계되었다. - 실험 설정: 다섯 도메인(ALFWorld, SpreadsheetBench, SWE-bench-Verified, SEAL-0, BFCL-v4), 여섯 타깃 모델, 다섯 추출기 모델의 삼자 교차를 수행한다. - 메타-스킬 주입: 추출기 시스템 프롬프트에 검증된 루브릭(3차원) 및 7차원 plausibility 루브릭을 비교 평가했다. - 루브릭의 효과: 검증 루브릭 도입 시 nine-cell에서 평균 +1.55pp의 향상을 보였고, SpreadsheetBench에서 최대 +3.7pp의 개선을 얻었다. 루브릭은 추출 파라미터의 설계에도 직접적으로 반영되었다.