kai-os/Carnice-V2-27b-GGUF
대화형 텍스트 생성 및 에이전트 작업 수행27Bapache-2.0
Qwen 아키텍처 기반의 Carnice-V2 27B 모델을 GGUF 포맷으로 양자화하여 로컬 환경에서의 에이전트 및 대화 성능을 최적화했다.
학습 방식 · Qwen 기반 Carnice-V2 27B 모델을 바탕으로 Hermes-Agent 데이터셋 등을 활용한 SFT 및 GGUF 양자화 적용
핵심 포인트
- 27B 파라미터 모델을 일반 소비자용 하드웨어에서 실행 가능
- 에이전트 특화 훈련을 통한 높은 작업 수행 능력
- GGUF 포맷을 통한 CPU/GPU 하이브리드 추론 지원
- 멀티턴 대화 수행
84
LIKES
48.6k
DOWNLOADS
1 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.
