TL;DR

Agents-A1은 InternScience가 발표한 약 35B 규모의 Mixture-of-Experts 기반 에이전트 모델로 장기 궤적 탐색과 도구 호출을 결합한 에이전시 능력 확장을 목표로 설계되었다. 모델은 전체 도메인 supervised fine-tuning, 도메인별 교사 모델 학습, 다중-교사 다중-도메인 온-폴리시 증류의 세 단계 학습 파이프라인을 통해 도메인 간 지식 전이를 강화했고 도구 호출과 함수 인터페이스를 네이티브로 지원해 외부 API 및 코드 인터프리터와의 통합을 용이하게 한다. 공개된 평가 프레임워크와 컨텍스트 길이 262144 권장 설정을 바탕으로 다양한 벤치마크(예: Seal-0 56.36, IFBench 80.61, IFEval 94.82, FrontierScience-Olympiad 79.0)에서 동급 또는 상위권 성적을 기록했으며 이 결과는 동일 프로토콜로 재현 가능하도록 구성되어 있다. 다만 모델이 Mixture-of-Experts 구조와 온-폴리시 증류에 의존하므로 서빙 및 메모리 구성, 그리고 도구 통합 파이프라인의 구현 난이도가 운영 환경에서 고려되어야 한다.

핵심 역량

• 복잡한 과제의 분해와 단계별 실행 계획을 생성해 도구 호출과 결합한 멀티스텝 워크플로우를 수행할 수 있다.
• 네이티브 함수 호출 인터페이스를 통해 API, 코드 인터프리터, 검색 엔진 등 외부 도구와 통합해 중간 증거를 획득하고 이를 기반으로 정책을 조정할 수 있다.
• 과학적·전문가 수준의 질의에 대해 도구 통합을 포함한 추론 과정을 통해 응답을 생성할 수 있다.
• 장기 히스토리(262K 토큰 수준)를 활용해 긴 궤적에서의 계획과 상태 추적을 유지할 수 있다.

강점

• 비교적 작은 모델 클래스(~35B)임에도 장기 탐색과 도구 사용을 결합한 작업군에서 상위권 성능을 달성하면서 대형 최전선 모델과의 격차를 줄인 점이 강점이다.
• 도구 호출과 함수 호출을 네이티브로 지원해 실제 API·인터프리터 통합 워크플로우에서 실용성이 높다.
• 공개된 평가 코드베이스로 동일한 프로토콜 하에서 벤치마크를 재현할 수 있어 성능 주장에 대한 재현 가능성이 확보되어 있다.

훈련 방식

Agents-A1는 35B Mixture-of-Experts 기반의 에이전트 모델로, 전체 도메인 supervised fine-tuning을 먼저 수행하고 도메인별 교사 모델을 학습한 뒤 다중-교사 다중-도메인 온-폴리시 증류와 heterogeneity-aware 최적화를 통해 지식 전이를 향상시키는 세 단계 학습 패러다임을 사용했다.

알아두면 좋은 것

• 모델은 약 35B 규모의 Mixture-of-Experts 아키텍처로 구현되었고 장기 궤적과 이종적 에이전시 능력 확장을 핵심 설계 목표로 삼았다.
• 학습은 전체 도메인 supervised fine-tuning, 도메인별 teacher 모델 학습, 다중-교사·다중-도메인 온-폴리시 증류의 세 단계로 구성되어 지식 전이 효율을 높였다.
• 공개된 평가 프레임워크를 통해 동일한 프로토콜로 벤치마크가 재현 가능하도록 구성했고 README에 수록된 벤치마크 수치는 해당 재현 환경에서 산출된 값이다.
• 서빙 지침은 SGLang 및 vLLM과 호환되며 컨텍스트 길이 262144(약 262K) 설정을 권장하고 특정 reasoning-parser로 'qwen3'를 사용하도록 명시되었다.

기술적 특징

• Mixture-of-Experts 아키텍처를 채택해 모델 파라미터를 크게 늘리면서도 입력별로 일부 전문가만 활성화해 계산 비용을 관리했다. 이 방식은 장기 궤적을 모델링할 때 각 도메인의 전문성을 선택적으로 활용하는 데 유리하다. 그 결과 에이전트적 능력 확장과 계산 효율의 균형을 목표로 삼았다.
• 학습 파이프라인은 세 단계로 구성되어 첫째로 광범위한 도메인에서 supervised fine-tuning으로 에이전트적 행동을 정렬시키고 둘째로 도메인별 교사 모델로 전문 지식을 캡처한 다음 셋째로 온-폴리시 다중-교사 증류를 통해 도메인 간 지식 전이를 개선했다. 온-폴리시 증류는 실제 에이전트 궤적에서 생성된 행동-관찰-검증 결과를 학생 모델 학습에 활용함으로써 정책의 실제적 유효성을 높였다.
• 도메인-그라운디드 지식-액션 인프라스트럭처를 통해 행동, 관찰, 검증 결과를 공동으로 구성하여 에이전트의 내부 프로세스를 학습 가능한 목표로 전환했다. 이 구성은 계획-실행-검증 루프를 명시적 신호로 만들어 장기 추론 성능을 개선하는 데 기여했다.
• 네이티브 도구 호출과 함수 호출 인터페이스를 통해 외부 API와 코드 인터프리터를 연결하도록 설계되었으며, vLLM과 SGLang 같은 서빙 스택과 호환성을 제공해 실전적 도구 통합 워크플로우를 지원한다. 또한 대용량 컨텍스트(262K)를 권장해 긴 히스토리 기반의 의사결정이 가능하도록 환경을 구성했다.

차별점

• 에이전시 역량 확장을 목적으로 Mixture-of-Experts 기반에서 장기 궤적 스케일링을 중점적으로 설계한 점이 동일 규모 모델 대비 차별화 요소이다.
• 세 단계의 학습 전략(전체 도메인 SFT → 도메인별 교사 모델 → 다중-교사 온-폴리시 증류)을 통합해 도메인 간 이질성을 고려한 지식 전이에 초점을 맞춘 점이 기술적 차별점이다.
• 도구 호출을 네이티브로 지원하고 서빙 지침에서 reasoning-parser와 tool-call-parser를 명시해 실전적 API·인터프리터 통합을 바로 적용할 수 있도록 한 점이 실용성 측면의 차별화이다.

벤치마크

이미지 분석