TL;DR

Muse Glimmer는 Muse Spark에서 증류한 29.6B 규모의 Dense Causal Transformer에 ViT-G/14 기반의 고정된 perception encoder를 결합한 멀티모달 에이전트 모델로, 텍스트·이미지를 입력받아 텍스트로 응답하도록 설계되어 있다. 로컬 배포를 목표로 4-bit 수준의 양자화와 DFlash 기반 drafter를 함께 제공해 24GB~32GB 소비자급 하드웨어에서 긴 컨텍스트(131,072+)와 실시간 대화 수준의 생성 속도를 달성하도록 구성되어 있으며, RTX 5090 기준으로 speculative decoding과 결합 시 약 3.1배 속도 향상이 보고되었다. 에이전트적 도구 호출, 단계적 추론, 실패 복구성 등에서 동일 급 모델 대비 높은 성능을 보였으나 일부 언어·비디오 입력 처리·양자화 엣지 케이스에서는 제약이 있으므로 배포 시 추가 안전검증과 휴먼인루프가 권장된다.

핵심 포인트

• Muse Glimmer는 Muse Spark에서 증류된 30억(29.6B) 매개변수를 가진 Dense Causal Transformer에 약 1.8B 파라미터의 ViT-G/14 기반 perception encoder를 결합한 멀티모달 모델이다. 텍스트와 이미지를 교차 입력으로 받아 최대 131,072 토큰의 긴 컨텍스트를 처리하며, 비전 입력은 최대 4,096 비주얼 토큰으로 인코딩된다. 이 구조는 스크린샷·문서·차트 해석을 포함한 에이전트 워크플로에서 텍스트 추론과 이미지 이해를 한 모델로 연속 처리하도록 설계되었다.
• 로컬 배포를 염두에 두고 최적화되었고, 4-bit 수준의 양자화로 언어모델 파라미터를 약 20GB 미만으로 압축해 24GB 또는 32GB급 소비자 하드웨어에서 실용적으로 구동되도록 설계되었다. 양자화는 K-Quant 계열 설정으로 제공되며, 개발자가 제시한 평가 평균에서 품질 저하는 극히 작아(예: K-Quant-17GB에서 평균 1.0% 감소) 에이전트 작업 성능을 거의 보존한다. 또한 DFlash 기반의 소형 drafter를 통해 블록 단위(16토큰) 제안과 주 모델의 병렬 검증을 결합하여 생성 속도를 크게 향상시키도록 세팅되어 있다.
• 에이전트 역량을 중점적으로 훈련·평가했으며 도구 호출, 단계적 추론, 실패 복구, 연속 작업 완수 능력에 초점이 맞춰져 있다. 공개 벤치마크(MCP-Atlas, DeepSearch QA, SWE-Bench 등)에서 동일 급 모델 대비 높은 성공률을 보였고, 특히 장기 논리 전개와 툴 스키마 호출 정확도에서 강점을 갖고 있다. 멀티언어 데이터로 학습했으나 일부 언어에서는 성능 저하 가능성이 있으며 비디오 입력은 프레임 단위 처리만 지원하는 제약이 존재한다.

제한사항

벤치마크