XiaomiMiMo/MiMo-V2.5 모델을 로컬에서 실행하기 위한 GGUF 양자화 버전
텍스트 생성, 코드 작성, 도구 호출, 에이전트 작업mit
XiaomiMiMo/MiMo-V2.5 모델을 llama.cpp 환경에서 구동할 수 있도록 Q2_K 양자화한 모델 파일이다.
핵심 역량
- 코드 생성 및 디버깅
- 도구 호출(Tool-calling)
- 에이전트 작업 수행
- 멀티턴 대화
강점
- 로컬 환경에서 낮은 VRAM으로 실행 가능
- 코드 생성 및 에이전트 작업에 특화된 베이스 모델 활용
훈련 방식
XiaomiMiMo/MiMo-V2.5 기반 GGUF Q2_K 양자화
알아두면 좋은 것
- Q2_K 양자화 적용으로 메모리 점유율 최소화
- llama.cpp 및 GGUF 호환 환경에서 즉시 실행 가능
- Mixture-of-Experts 아키텍처 기반
- 코드 생성 및 에이전트 작업 특화
67
Likes
1.9k
Downloads
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.