openbmb/MiniCPM5-2B-GGUF
긴 문맥 텍스트 생성, coding agent, tool-calling 및 수학·코드 reasoning2B (2,516,756,480)131K 컨텍스트Apache-2.0
MiniCPM5-2B를 GGUF로 배포해 로컬 추론과 131,072 토큰 context를 지원
학습 방식 · MiniCPM5-2B 기반의 dense Transformer에 Ultra-FineWeb·UltraX·UltraData-Code 등을 활용한 사전학습, 400B 토큰 Deep Thinking SFT, reasoning·general·agentic RL 및 Online Policy Distillation을 순차 적용했습니다.
TL;DR
MiniCPM5-2B-GGUF는 MiniCPM5-2B를 GGUF 형식으로 변환한 배포용 모델로, llama.cpp·Ollama·LM Studio에서 로컬 추론을 지원합니다. 기반 모델은 2,516,756,480개 파라미터의 dense LlamaForCausalLM이며, GQA와 131,072 토큰 context length를 사용해 긴 문서·tool-calling·coding agent 작업을 겨냥합니다. 원본 MiniCPM5-2B는 400B 토큰 규모의 Deep Thinking SFT 뒤에 reasoning·general·agentic RL과 Online Policy Distillation을 거쳤고, 공개 비교표의 평균 점수는 53.9입니다. 이 수치는 GGUF 파일 자체의 재측정값이 아니라 기반 BF16 모델 MiniCPM5-2B의 결과입니다.
핵심 포인트
- GGUF 형식으로 제공되어 llama.cpp·Ollama·LM Studio 기반 로컬 추론 경로를 지원합니다.
- 42개 layer와 16개 Q head·2개 KV head의 GQA 구성으로 131,072 토큰 context를 처리합니다.
- UltraData 계열의 웹·수학·코드·SFT·RL 데이터로 사전학습과 후속 학습을 구성했습니다.
- 기반 MiniCPM5-2B의 평균 점수는 53.9이며 LiveCodeBench v6는 69.1입니다.
벤치마크
| 벤치마크 | 지표 | 값 | 비교 |
|---|---|---|---|
| Average | score | 53.9 | 기반 BF16 모델 MiniCPM5-2B의 공개 비교표 수치이며 GGUF 변환본 자체의 측정값은 아님 |
| LiveCodeBench v6 | score | 69.1 | 기반 MiniCPM5-2B 공개 수치이며 GGUF 변환본 자체의 측정값은 아님 |
| AIME 2025 | score | 86.5 | 기반 MiniCPM5-2B 공개 수치이며 GGUF 변환본 자체의 측정값은 아님 |
| AIME 2026 | score | 86.5 | 기반 MiniCPM5-2B 공개 수치이며 GGUF 변환본 자체의 측정값은 아님 |
| MATH-500 | score | 94.6 | 기반 MiniCPM5-2B 공개 수치이며 GGUF 변환본 자체의 측정값은 아님 |
| IFBench | score | 66.3 | 기반 MiniCPM5-2B 공개 수치이며 GGUF 변환본 자체의 측정값은 아님 |
| MMLU-Pro | score | 70.8 | 기반 MiniCPM5-2B 공개 수치이며 GGUF 변환본 자체의 측정값은 아님 |
| MMLU-Redux | score | 84.7 | 기반 MiniCPM5-2B 공개 수치이며 GGUF 변환본 자체의 측정값은 아님 |
| HLE | score | 8.9 | 기반 MiniCPM5-2B 공개 수치이며 GGUF 변환본 자체의 측정값은 아님 |
이미지 분석
117
LIKES
7.8k
DOWNLOADS
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.
