Better-Harness: 에이전트 성능 개선을 위한 반복적 평가 루프 구축

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

에이전트 개발에서 평가는 고전적 머신러닝의 학습 데이터와 같은 역할을 수행하며 시스템 개선을 위한 핵심 신호가 된다. Better-Harness는 에이전트를 감싸는 프롬프트와 도구 정의인 '하네스'를 평가 지표에 기반해 자율적으로 개선하는 복합 시스템 아키텍처이다. 이 시스템은 프로덕션 트레이스에서 평가 사례를 추출하고, 최적화 세트와 홀드아웃 세트를 분리하여 과적합을 방지하며 성능을 높인다. 실제 테스트 결과 Claude Sonnet과 GLM-5 모델 모두에서 도구 사용 및 후속 질문 품질이 크게 향상됨이 확인됐다.

배경

LLM 에이전트 아키텍처에 대한 이해, 프롬프트 엔지니어링 및 도구 사용(Tool Use) 개념, LangSmith와 같은 트레이싱 도구 사용 경험

대상 독자

프로덕션 환경에서 LLM 에이전트의 성능과 신뢰성을 높이고자 하는 AI 엔지니어 및 제품 관리자

의미 / 영향

이 방법론은 에이전트 개발을 단순한 프롬프트 엔지니어링에서 데이터 중심의 체계적인 공학 프로세스로 전환시킨다. 특히 자율적인 최적화 루프를 통해 개발자의 수동 개입을 줄이면서도 홀드아웃 세트와 인간 리뷰를 통해 안전성을 확보할 수 있다는 점에서 실무적 가치가 크다.

섹션별 상세

에이전트 개발에서 평가는 모델 학습의 그래디언트와 유사한 학습 신호를 제공한다. 에이전트가 프로덕션에서 보여주길 원하는 행동을 평가 사례로 인코딩하고, 이를 통해 하네스의 프롬프트나 도구 구성을 수정하는 루프를 형성한다. 데이터 품질과 큐레이션에 들이는 노력이 에이전트 성능 개선의 핵심 동력이 된다.

Better-Harness는 데이터 소싱부터 실험 설계, 최적화, 리뷰 및 승인까지 포함하는 복합 시스템 공학 접근법이다. 단순히 업데이트 알고리즘에 집중하는 것을 넘어 프로덕션 트레이스를 활용한 평가 사례 생성과 과적합 방지를 위한 설계 결정을 포함한다. 이를 통해 에이전트가 특정 사례에만 매몰되지 않고 일반화된 성능을 갖추도록 유도한다.

좋은 평가 사례를 확보하기 위해 수동 큐레이션, 프로덕션 트레이스 마이닝, 외부 데이터셋 활용의 세 가지 방법을 병행한다. 특히 프로덕션 트레이스에서 실패 사례를 찾아 평가 사례로 전환하는 과정은 에이전트를 지속적으로 개선하는 강력한 레버리지가 된다. 모든 평가는 행동 카테고리별로 태깅되어 타겟팅된 실험과 효율적인 홀드아웃 세트 구성을 가능하게 한다.

에이전트의 과적합과 보상 해킹 문제를 해결하기 위해 데이터 분할과 인간 리뷰를 필수적으로 도입한다. 최적화 세트에서 점수를 높인 변경 사항이 홀드아웃 세트에서도 유효한지 검증하여 실제 일반화 성능을 확인한다. 또한 인간 리뷰어는 지표가 놓칠 수 있는 프롬프트의 비효율성이나 토큰 낭비를 최종적으로 점검하는 게이트 역할을 수행한다.

최적화 루프는 트레이스 진단, 타겟팅된 하네스 변경, 검증의 단계를 자율적으로 반복한다. 점수 합계뿐만 아니라 상세 트레이스를 분석하여 실패 원인을 파악하고, 프롬프트 수정이나 도구 설명 업데이트 등 구체적인 변경안을 제안한다. 변경 후에는 기존에 통과하던 사례에서 회귀가 발생하는지 확인하여 안정적인 성능 향상을 보장한다.

text

Model Phase Optimization Tool Use | Optimization Followup | Holdout Tool Use | Holdout Followup
Claude-sonnet-4-6 Before 1/2 | 0/3 | 7/8 | 2/6
After 2/2 | 2/3 | 7/8 | 6/6

Claude Sonnet 모델을 사용한 하네스 최적화 전후의 성능 비교 데이터

실무 Takeaway

에이전트 성능 개선을 위해 평가 데이터를 최적화용과 검증용(Holdout)으로 엄격히 분리하여 과적합을 방지해야 한다.
프로덕션 트레이스에서 실패 지점을 자동으로 추출하고 이를 평가 사례로 전환하는 플라이휠을 구축하여 데이터 확보 비용을 낮출 수 있다.
프롬프트 수정 시 '사용자가 이미 제공한 정보는 다시 묻지 말 것'과 같은 구체적인 제약 조건을 추가하는 것만으로도 에이전트의 불필요한 루프를 획기적으로 줄일 수 있다.

언급된 리소스

GitHubBetter-Harness Research Version

문서Building Evals for Deep Agents