TL;DR

MiniCPM5-1B는 1.08B 파라미터의 온디바이스 친화적 Causal LLM으로 131,072 토큰의 장기 컨텍스트를 네이티브로 지원하고 동일 체크포인트에서 Think/No-Think 모드를 전환할 수 있다. 훈련은 UltraData 계층형 코퍼스 기반의 base·mid·post 단계로 이루어졌으며 SFT(각 200B tokens) 후 도메인별 RL 교사를 만들고 On-Policy Distillation(OPD)을 통해 이들 교사의 정책을 학생 모델로 역전파해 수학·코드·지시이행 성능을 개선했다. README에 따르면 RL+OPD 적용으로 평균 점수는 +16 포인트, 최대 토큰 히트 비율은 -29 퍼센트포인트 개선이 관찰되었고 다양한 배포 포맷과 백엔드를 공식 지원해 로컬 에이전트·도구 호출 워크플로에 바로 적용 가능하다.

핵심 역량

• 장문 대화와 문서 수준 컨텍스트 유지를 지원해 131,072 토큰 범위의 입력을 처리할 수 있다. 이 기능은 긴 문서 요약, 장기 대화 상태 유지, 다중 문서 레퍼런스 추출 등에서 실질적 이점을 제공한다. 컨텍스트 확장으로 인한 토큰 관리와 응답 길이 제어가 모델 설계의 핵심이다.
• 도구 호출을 XML 스타일로 출력하고 SGLang 파서와 연동해 OpenAI 호환 tool_calls로 변환함으로써 에이전트 기반 워크플로와 직접 통합된다. 이 연동은 코드 실행, 정보 검색, 외부 API 호출 같은 툴 사용 시 자동화된 파이프라인을 구성하는 데 유리하다. README는 SGLang을 권장 백엔드로 명시하고 관련 배포 cookbook를 제공한다.
• 코드 생성 및 수학적 추론에서 강화된 성능을 보이며 RL 기반 교사와 OPD를 결합해 특화 능력을 학생 모델로 증류했다. 학습 단계에서 DAPO-Math 등 수학 데이터와 별도 RL 교사로 훈련된 신호를 통합해 정확도와 응답 길이의 균형을 개선했다. 이로 인해 어려운 추론 문제와 닫힌 질문(closed-book QA)에서의 성능 향상이 목표로 설정되었다.
• 온디바이스와 경량 서버 환경에서 실행 가능하도록 BF16/GGUF/4bit 포맷을 포함한 다양한 배포 형식을 제공한다. README는 transformers, vLLM, llama.cpp, Ollama, MLX 등 여러 추론 백엔드를 위한 구체적 가이드를 포함한다. FlagOS를 통한 멀티칩 지원으로 여러 하드웨어에 빠르게 적응할 수 있게 패키징되었다.

강점

• 동일 체크포인트에서 Think/No-Think 모드를 전환할 수 있어 하나의 모델로 빠른 어시스턴트와 신중한 추론자 역할을 모두 수행할 수 있다. 이 설계는 운영 복잡도를 낮추면서도 태스크별 응답 품질을 조절할 수 있게 한다. 에이전트 및 도구 호출 워크플로에서 실용성이 높다.
• 네이티브로 131k 컨텍스트를 지원해 문서 수준 작업과 장기 대화 유지에서 경쟁 우위를 확보한다. 긴 컨텍스트 처리 능력은 장문 요약, 법률·연구 문서 분석, 복합 파이프라인에서의 상태 유지에 직접적인 이점을 제공한다. GQA 어텐션 설정으로 메모리-성능 균형을 맞춘 점이 실제 배포에서 유리하게 작용한다.
• RL+OPD 파이프라인 적용으로 수학·코드·지시이행 영역에서 유의미한 품질 개선과 과도한 응답 길이 감소를 동시 달성했다고 보고되었다. 공개 수치로 평균 점수 +16 포인트, 최대 토큰 히트 비율 -29 퍼센트포인트의 개선이 보고되어 특정 기능군에서 실무적 이득이 확인되었다. 이러한 정량적 개선은 실사용 에이전트의 응답 품질과 비용 절감 측면에서 가치가 있다.

훈련 방식

모델은 base 학습, mid-training, post-training의 세 단계로 훈련되었고 각 단계는 UltraData 계층형 코퍼스(예: Ultra-FineWeb, UltraData-Math, UltraData-SFT-2605)를 사용해 목적별 역량을 강화했다. SFT 단계에서는 deep-thinking과 hybrid-thinking 각각 200B 토큰을 투입해 초기 추론 능력을 확립했으며 이후 도메인별 RL 교사들을 구축해 수학·코드·QA·쓰기 등에서 전문 신호를 학습시켰다. 최종적으로 On-Policy Distillation(OPD)을 적용해 RL 교사들의 정책을 학생 모델로 역전파하는 방식으로 성능과 응답 제어를 통합했다.

알아두면 좋은 것

• MiniCPM5-1B는 동일 체크포인트에서 Think 모드와 No-Think 모드를 전환할 수 있는 하이브리드 추론 템플릿을 제공해 빠른 응답과 신중한 추론을 모두 지원한다. enable_thinking 플래그로 모드 전환이 가능하며 권장 샘플링 파라미터가 README에 포함되어 있다. 이 설계는 하나의 모델로 범용성과 고난도 추론을 병행하는 운영을 용이하게 만들었다.
• 훈련 레시피는 UltraData 계층화된 데이터 관리 체계를 따르며 base→mid→post 단계에서 각각의 목적에 맞는 코퍼스를 사용했다. SFT 단계에서 200B 토큰 규모의 deep-thinking 및 hybrid-thinking 데이터를 사용했고 이후 RL 교사를 만들어 OPD로 증류하는 파이프라인을 적용했다. 이 구조는 기초 언어능력과 도메인 특화 능력을 순차적으로 축적하는 방식이다.
• OPD 구현은 reverse KL을 이득 신호로 사용하며 학생과 교사의 상위-k logits를 병합해 토큰별 RKL을 계산하는 방식을 채택했다. 이 접근은 추가적인 데이터 큐레이션 없이 RL 교사의 도메인 대응 능력을 학생 모델로 전이하면서 학습 효율을 유지하도록 설계되었다. README는 이 방법이 응답 정확도와 응답 길이 제어를 동시에 개선했다고 보고했다.
• 배포 측면에서는 BF16, GGUF, 4bit 등 다양한 포맷과 transformers/vLLM/llama.cpp/MLX/Ollama 같은 실사용 백엔드를 공식적으로 지원한다. GitHub에는 배포 및 파인튜닝을 위한 cookbook과 Agent Skills가 준비되어 있어 실무 적용경로가 명확하다. 또한 FlagOS 연동으로 멀티칩 환경에서의 빠른 이식성과 가속을 확보한 점이 눈에 띈다.

기술적 특징

• Hybrid Reasoning 설계는 <think> 채팅 템플릿과 enable_thinking 플래그를 통해 하나의 체크포인트에서 빠른 응답 모드와 신중한 추론 모드를 전환하도록 구성되었다. 이 방식은 별도 모델을 유지하지 않고도 태스크 요구에 따라 샘플링 온도와 응답 길이를 조정할 수 있게 만든다. 결과적으로 에이전트 워크플로에서 응답 질과 처리 비용을 모드 기반으로 균형시킬 수 있다.
• 긴 컨텍스트 처리를 위해 131,072 토큰의 컨텍스트 길이를 기본으로 설정했고 어텐션은 GQA 구성(Q 다수, KV 소수)을 사용하여 메모리 효율을 확보했다. GQA 설정은 동일 모델 크기에서 컨텍스트 확장 시 발생하는 메모리·연산 병목을 완화하는 기술적 선택이다. 이로 인해 로컬·온디바이스 배포 환경에서도 장문 작업을 처리할 수 있게 되었다.
• 훈련 파이프라인은 UltraData 기반의 계층적 데이터 관리와 SFT→RL→OPD의 후처리 단계로 설계되어 목적별 능력을 순차적으로 강화했다. SFT 단계에서 deep-thinking과 hybrid-thinking 데이터를 각각 200B 토큰씩 사용해 초기 추론 패턴을 내재화했고, 이후 RL 교사들을 각 도메인별로 훈련해 특화된 정책을 만든 뒤 OPD로 통합했다. 이러한 단계적 접근은 추가 데이터 큐레이션 없이 교사 특성을 학생 모델에 흡수시키는 데 유리했다.
• OPD 구현은 reverse KL 기반의 이득 추정과 상위-k logits 병합을 활용해 학생과 교사 사이의 토큰 수준 분포 차이를 최소화했다. 이 방식은 기존의 검증 기반 이득보다 학습 효율과 안정성을 향상시키는 데 목적이 있었고, 응답 정확도와 응답 길이 제어 사이의 균형을 맞추는 데 기여했다. README는 이 구성으로 평균 점수와 과다응답 비율에서 뚜렷한 개선이 관찰되었다고 보고했다.

차별점

• 동일 체크포인트에서 Think/No-Think 모드를 전환하는 하이브리드 추론 템플릿을 제공해 별도 모델 없이 응답 깊이를 제어할 수 있다. 이 설계는 운영 복잡도를 낮추면서 에이전트와 도구 호출 워크플로에서 즉시 활용 가능한 이점을 제공한다. 결과적으로 하나의 모델로 범용성과 고난도 추론을 병행할 수 있게 되었다.
• 네이티브 131k 토큰 컨텍스트 지원과 GQA 어텐션 구성으로 긴 문서 작업에서 경쟁 우위를 확보했으며, 이를 로컬·온디바이스 배포 제약에 맞춰 최적화했다. 긴 컨텍스트를 실환경에서 다루기 위한 메모리·연산 절감 설계가 핵심 차별요소이다. 따라서 문서 기반 태스크와 장기 대화 유지에서 유리하게 작동한다.
• RL+OPD 파이프라인을 통해 도메인별 RL 교사들의 성능을 학생 모델로 역전파하면서 평균 점수와 과다응답률을 동시에 개선한 점이 실무적 차별점이다. reverse KL을 활용한 OPD 설계는 추가 데이터 큐레이션 없이 교사 능력을 통합하는 효과를 냈다. 이로 인해 수학·코드·지시이행 등 특정 영역에서 실측 개선이 보고되었다.

벤치마크

이미지 분석