27B 파라미터의 강력한 에이전트 성능을 로컬 PC에서 경험하세요
대화형 텍스트 생성 및 에이전트 작업 수행27Bapache-2.0
Qwen 아키텍처 기반의 Carnice-V2 27B 모델을 GGUF 포맷으로 양자화하여 로컬 환경에서의 에이전트 및 대화 성능을 최적화했다.
핵심 역량
- 멀티턴 대화 수행
- 에이전트 기반 도구 사용 및 계획 수립
- 복잡한 지시사항 이행
- 논리적 추론 및 문제 해결
강점
- 27B 파라미터 모델을 일반 소비자용 하드웨어에서 실행 가능
- 에이전트 특화 훈련을 통한 높은 작업 수행 능력
- GGUF 포맷을 통한 CPU/GPU 하이브리드 추론 지원
훈련 방식
Qwen 기반 Carnice-V2 27B 모델을 바탕으로 Hermes-Agent 데이터셋 등을 활용한 SFT 및 GGUF 양자화 적용
알아두면 좋은 것
- Qwen 3.5/3.6 계열 아키텍처 기반의 Carnice-V2 모델 활용
- Hermes-Agent 및 Agentic SFT 데이터셋 적용
- llama.cpp 프레임워크와의 완전한 호환성 제공
- Apache 2.0 라이선스로 상업적 이용 가능
84
Likes
48.6k
Downloads
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.