TL;DR

이 모델은 openbmb MiniCPM5-1B를 기반으로 Fable 5 V2로 후학습한 결과물을 GGUF 포맷으로 양자화해 로컬 추론 환경에서의 즉시 사용성을 목표로 한다. Q8_0 양자화 파일을 권장 기본으로 제시해 약 1.1GB의 경량 배포를 가능하게 했고 F16 풀프리시전 파일을 병행 제공해 품질과 효율의 선택권을 남겼다. V2 단계에서는 특히 function-calling과 tool-calling 동작을 강화해 외부 API 연동과 플러그인 기반 자동화 워크플로에서 구조화된 호출 출력을 더 안정적으로 생성하도록 조정되었으며 README의 BFCL·API-Bank 수치가 파인튜닝 성능 향상을 뒷받침한다. 또한 Thinking 모드와 최대 128K 토큰 설정을 통해 복잡한 추론과 장문 컨텍스트 작업을 지원하지만 실제 사용 가능한 컨텍스트 길이는 런타임과 하드웨어 제약에 따라 달라진다.

핵심 포인트

• GGUF로 패키징된 Q8_0 양자화 파일을 권장 기본값으로 제공하여 개인 PC와 경량 서버에서 즉시 실행 가능한 배포 경험을 제공한다. 이 구성은 F16 풀프리시전 파일을 병행 제공해 품질-효율성 선택을 보장한다. 메타데이터에 chat template를 내장해 런타임 별 별도 템플릿 적용 없이 일관된 대화 동작을 유지한다.
• Fable 5 V2 파인튜닝으로 function-calling 및 tool-calling 동작이 명시적으로 강화되어 외부 함수 호출 형식의 출력 신뢰도가 향상되었다. 이 개선은 API 호출이나 플러그인과 결합된 자동화 워크플로에서 정확한 인자 생성률과 호출 안정성을 높이는 방향으로 적용되었다. README의 API-Bank 성능 향상 수치가 해당 차별점을 정량적으로 뒷받침한다.
• Thinking 모드를 기본 작동 모드로 제공하고 샘플링 프로파일(Think / No Think)을 명시해 사용자가 사고 출력의 존재와 창의성 수준을 명확히 제어할 수 있도록 했다. 이 설계는 추론 근거의 가시성과 디버깅 가능성을 확보하려는 요구에 대응한 선택이다. 동시에 Thinking 출력이 최종 응답 이전에 노출될 수 있다는 한계가 명시되어 투명성을 유지한다.
• 로컬 환경에서 실행 가능한 GGUF Q8_0 양자화 파일을 제공해 약 1.1GB 규모로 1B 모델을 경량 배포할 수 있으며, 이는 로컬 개발자와 오프라인 시나리오에서 빠른 반복을 가능하게 했다. 양자화 모델과 함께 F16 풀프리시전 파일을 병행 제공해 품질과 효율성 간 선택을 허용했다. 또한 chat template가 메타데이터에 내장되어 런타임별 추가 설정 없이 일관된 대화형 동작을 유지한다.

벤치마크