InternScience/Agents-A1-Q4_K_M-GGUF
Agents‑A1 Q4_K_M GGUF는 35B Mixture‑of‑Experts 기반의 agentic VLM으로 장기 탐색과 도구 호출을 지원하도록 최적화된 양자화 모델이다
학습 방식 · 베이스 모델은 InternScience/Agents‑A1이며 전체 도메인 감독 파인튜닝을 시작으로 도메인별 교사 모델을 학습하고 멀티티처 온폴리시 증류와 이질성 인식 최적화 기법을 적용해 도메인 간 지식 전이 효율을 높이는 3단계 학습 파이프라인을 사용했다.
TL;DR
InternScience의 Agents‑A1 Q4_K_M GGUF는 35B Mixture‑of‑Experts 기반의 agentic VLM으로 장기 탐색과 도구 호출을 핵심 목표로 설계된 양자화 배포 모델이다. 모델은 범용 행동 정렬을 위한 풀도메인 감독 파인튜닝, 도메인별 교사 모델 학습, 멀티티처 온폴리시 증류의 3단계 학습 체계를 통해 도메인 간 지식 전이를 개선했고 행동, 관찰, 검증 결과를 학습 목표로 통합하는 인프라를 사용해 연쇄적 의사결정 능력을 향상시켰다. 공개된 벤치마크에서 다수의 과제군에서 동급 대비 상위 성과를 보고했으며 GGUF 양자화 아티팩트와 vLLM, SGLang 호환성으로 로컬 서빙과 연구 재현성 측면에서 실용적 이점을 제공한다. 한편 문서상 결과는 공개된 평가 프로토콜과 비교 대상의 기술 보고서를 기반으로 산출된 것이므로 자체 사용자는 제공된 평가 코드로 결과를 재현해 운용 환경에서의 성능을 검증할 필요가 있다.
핵심 포인트
- 에이전시 중심의 학습 설계는 행동, 관찰, 검증 결과를 통합하는 도메인‑그라운디드 인프라를 학습 목표로 삼아 연쇄적 의사결정 체인을 직접 학습 대상화한 점에서 차별화된다. 이 접근은 단순한 지식 전달이 아니라 행동 기반의 목표화를 통해 에이전트가 자체적으로 계획과 검증을 반복하도록 유도한다. 결과적으로 도구 사용과 장기 플래닝에서의 일관성이 향상된다.
- 멀티티처 온폴리시 증류를 도입해 도메인별 교사 모델로부터 전문성을 전수하는 파이프라인을 구성한 점이 차별화 요소이다. 온폴리시 방식은 교사와 학생 간의 행동 분포 불일치를 줄이며 실제 에이전트 행동에 맞춘 지식 전이를 가능하게 한다. 이로 인해 서로 다른 도메인 간의 이질성을 인식하는 최적화가 가능해졌다.
- 배포 측면에서는 GGUF 양자화 아티팩트를 제공해 로컬 및 경량 서빙 환경에서 모델을 바로 운영할 수 있게 한 점이 실용적 차별화 요소다. 이 형태는 대규모 모델의 추론 자원 요구를 낮추고 vLLM, SGLang 같은 서빙 엔진과의 직접 호환성을 지원해 운영 부담을 줄인다. 따라서 연구용 성능과 실무 운영성 사이의 균형을 맞춘 배포 전략을 취하고 있다.
- 동급 약 35B 모델군과의 비교에서 여러 벤치마크에서 최상위 성과를 보고했다는 점이 강점이다. 표에서 제시된 Seal‑0, HiPhO, FrontierScience‑Olympiad, IFBench, IFEval 등에서 높은 점수를 보이며 장기 탐색과 과학적 추론, 지시문 수행 능력에서 균형 잡힌 성능을 확보했다. 또한 GGUF 양자화 아티팩트로 배포되어 로컬 서빙과 경량 인프라에서 실용적으로 운영할 수 있는 배포 이점을 가진다.
벤치마크
| 벤치마크 | 지표 | 값 | 비교 |
|---|---|---|---|
| Seal‑0 | score | 56.4 | — |
| HiPhO | score | 46.4 | — |
| FrontierScience‑Olympiad | score | 79.0 | — |
| FrontierScience‑Research | score | 40.0 | — |
| IFBench | score | 80.6 | — |
| IFEval | score | 94.8 | — |
이미지 분석
102
LIKES
43k
DOWNLOADS
1 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.