Qwen3.5-9B 기반 에이전트 특화 모델 Harmonic-9B 및 필터링된 데이터셋 공개

실용적 조언

에이전트 성능을 높이려면 단순히 데이터를 늘리기보다 자가 수정과 검증 단계가 포함된 고품질 트레이스 데이터를 선별하여 학습시켜야 한다.
추론 능력과 도구 사용 능력을 단계별로 나누어 학습시키는 것이 모델의 범용성을 유지하는 데 유리하다.

섹션별 상세

Harmonic-9B는 Qwen3.5-9B를 기반으로 에이전트 활용을 위해 2단계 파인튜닝 전략을 채택했다. 1단계에서는 강력한 구조적 추론 능력을 학습시키고, 2단계에서는 가벼운 도구 호출 능력을 결합하여 일반적인 대화의 자연스러움을 유지하면서도 신뢰할 수 있는 에이전트 성능을 목표로 한다. 현재 1단계 학습이 완료되어 추론 구조에서 긍정적인 초기 결과를 보여주고 있다.

모델 성능 향상을 위해 Hermes 에이전트 트레이스 데이터를 엄격하게 필터링하여 공개했다. 필터링된 데이터셋을 사용한 결과, 모델의 자가 수정(Self-correction) 빈도가 6%에서 63%로, 검증 단계(Verification steps) 포함 비율이 26%에서 96%로 대폭 상승했다. 이는 고품질 데이터 큐레이션이 에이전트의 사고 깊이와 출력 신뢰도에 직접적인 영향을 미침을 시사한다.

에이전트 작업의 핵심인 도구 호출의 정확도를 100% 유효한 JSON 형식으로 달성했다. 사고의 깊이 또한 이전 대비 40% 향상되어 복잡한 논리적 흐름을 더 잘 파악할 수 있게 설계됐다. 이러한 개선은 OpenClaw나 LangGraph와 같은 에이전트 프레임워크 내에서 모델의 실질적인 활용성을 높이는 데 기여한다.

현재 2단계 학습이 진행 중이며 정식 벤치마크 결과는 학습 완료 후 공개될 예정이다. 개발자는 GGUF 양자화 버전을 우선 배포하여 커뮤니티의 피드백을 요청하고 있으며, 특히 ReAct 패턴이나 다양한 에이전트 하네스에서의 동작 확인을 강조하고 있다.

용어 해설

에이전트 미세 조정(Agent Fine-tuning): — LLM이 단순히 텍스트를 생성하는 것을 넘어 외부 도구를 호출하거나 복잡한 문제를 단계별로 계획하여 해결하도록 최적화하는 학습 과정이다. 모델의 추론 능력과 실행 능력을 동시에 강화하여 자율적인 작업 수행이 가능하도록 만든다.
자가 수정(Self-correction): — 모델이 생성한 답변이나 수행한 행동에서 오류를 스스로 감지하고 이를 올바른 방향으로 수정하는 능력이다. 에이전트 시스템에서 신뢰성을 높이는 핵심 요소로 작용하며, 고품질의 데이터셋 학습을 통해 강화된다.
에이전트 트레이스(Agent Trace): — 에이전트가 특정 목표를 달성하기 위해 거친 사고 과정, 도구 호출 이력, 실행 결과 등의 전체 경로를 기록한 데이터이다. 이를 학습 데이터로 활용하면 모델이 논리적인 문제 해결 흐름을 모방하도록 유도할 수 있다.

언급된 도구

Qwen3.5-9B중립

베이스 언어 모델

GGUF추천

모델 양자화 및 배포 포맷

OpenClaw중립

에이전트 테스트 하네스

LangGraph중립

에이전트 워크플로우 프레임워크

언급된 리소스

문서Harmonic-9B-GGUF Hugging Face

문서Filtered Hermes Agent Traces Dataset