AI 에이전트를 위한 지속적 학습의 세 가지 계층: 모델, 하네스, 컨텍스트

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

AI 에이전트의 지속적 학습(Continual Learning)은 단순히 모델 가중치를 업데이트하는 것에 그치지 않고 모델, 하네스, 컨텍스트의 세 가지 계층에서 다각도로 접근해야 한다. 모델 계층은 SFT나 RL을 통해 근본적인 추론 능력을 개선하며, 하네스 계층은 에이전트를 구동하는 코드와 도구 구성을 최적화하고, 컨텍스트 계층은 사용자나 조직 단위의 메모리와 기술을 관리한다. 이러한 모든 학습 과정은 LangSmith와 같은 플랫폼을 통해 수집된 실행 로그(Traces)를 데이터 근거로 삼아 순환 구조를 형성한다. 결과적으로 개발자는 각 계층의 비용, 업데이트 속도, 영향력을 고려하여 최적의 에이전트 개선 전략을 수립할 수 있다.

배경

LLM 에이전트의 기본 구조(Prompt, Tool use)에 대한 이해, Fine-tuning 및 강화학습(RL)의 기본 개념, LangChain 또는 LangSmith와 같은 에이전트 프레임워크 사용 경험

대상 독자

프로덕션 환경에서 AI 에이전트를 설계하고 성능을 최적화하려는 개발자 및 아키텍트

의미 / 영향

이 아티클은 AI 에이전트의 성능 향상이 단순히 '더 좋은 모델'을 쓰는 것에 국한되지 않음을 시사합니다. 코드(하네스)와 데이터(컨텍스트) 계층의 학습을 체계화함으로써 기업은 모델 학습 비용을 절감하면서도 사용자 맞춤형의 고성능 에이전트를 더 빠르게 배포할 수 있게 됩니다.

섹션별 상세

모델 계층의 학습은 가중치를 직접 업데이트하여 에이전트의 핵심 지능을 개선하는 방식이다. SFT나 GRPO와 같은 강화학습 기법을 사용하며 주로 에이전트 전체 수준에서 수행되지만, 새로운 데이터 학습 시 기존 지식을 잃는 '치명적 망각(Catastrophic Forgetting)' 문제가 주요 해결 과제이다. 이는 모델의 근본적인 추론 능력을 개선하는 데 가장 강력한 수단이지만 업데이트 비용이 높고 속도가 느리다.

에이전트 시스템의 세 가지 계층인 Context, Harness, Model의 포함 관계를 보여주는 다이어그램이다. — Diagram에이전트가 Model을 핵심으로 하여 이를 감싸는 Harness 코드, 그리고 가장 바깥에서 설정을 담당하는 Context로 구성됨을 시각화한다. 각 계층의 예시로 Claude Code, AGENTS.md 등을 들어 이해를 돕는다.

하네스 계층은 에이전트를 구동하는 코드, 기본 지침, 도구 모음을 포함하며 이를 최적화하여 성능을 높일 수 있다. 'Meta-Harness' 연구에서 제시된 것처럼 에이전트의 실행 로그를 분석하여 코딩 에이전트가 하네스 코드를 스스로 수정하도록 제안하는 루프를 형성할 수 있다. 이는 모델 변경 없이도 에이전트의 워크플로우와 도구 사용 효율을 직접적으로 개선할 수 있는 중급 비용의 최적화 방법이다.

Harness 코드를 최적화하는 순환 루프 과정을 설명하는 아키텍처 다이어그램이다. — Diagram실행 로그를 파일시스템에 저장하고, 코딩 에이전트가 이를 분석하여 새로운 Harness 코드를 제안한 뒤 다시 평가하는 자동화된 최적화 흐름을 보여준다.

근거

하네스 최적화는 실행 로그를 분석하여 코딩 에이전트가 코드를 제안하는 방식으로 자동화될 수 있다. — Continual learning at the harness layer 섹션의 Meta-Harness 루프 설명

컨텍스트 계층은 하네스 외부에서 에이전트의 행동을 규정하는 지침, 기술(Skills), 메모리를 관리하며 가장 유연한 학습이 가능하다. 사용자(User)나 조직(Org) 단위로 세분화하여 업데이트가 가능하며, 실행 중 실시간으로 메모리를 갱신하거나 오프라인에서 로그를 분석해 업데이트하는 'Dreaming' 방식을 사용한다. 이는 개별 사용자 맞춤화에 가장 적합하며 업데이트 속도가 가장 빠르고 비용이 저렴하다.

실시간 경로(Hot path)와 백그라운드에서 이루어지는 메모리 업데이트 방식의 차이를 비교한 그림이다. — Diagram사용자 응답과 동시에 메모리를 업데이트하는 방식과, 응답 후 일정 시간이 지난 뒤 별도 프로세스로 메모리를 갱신하는 방식의 차이를 시각적으로 대조한다.

Model, Harness, Context 세 계층의 비용, 속도, 가시성 등을 비교한 표이다. — ChartContext 계층이 업데이트 비용이 가장 낮고 속도가 빠른 반면, Model 계층은 영향력의 한계치(Ceiling of impact)가 가장 높다는 핵심적인 트레이드오프 관계를 명확히 보여준다.

근거

컨텍스트 계층의 업데이트는 모델이나 하네스 계층에 비해 비용이 낮고 업데이트 속도가 빠르다. — Comparison 표의 Cost of updating(Low) 및 Speed to updating(Fast) 항목

에이전트의 모든 학습 계층은 실행 경로를 상세히 기록한 'Traces'를 핵심 데이터로 활용한다. LangSmith 플랫폼을 통해 수집된 로그는 모델 학습용 데이터셋 구축, 하네스 코드 최적화, 컨텍스트 기반 메모리 업데이트의 공통된 원천이 된다. 특히 Deep Agents와 같은 오픈소스 하네스는 이러한 다계층 학습 구조를 프로덕션 환경에서 구현할 수 있도록 사용자 수준 메모리와 백그라운드 학습 기능을 지원한다.