4B 파라미터의 가벼움과 검열 없는 자유로운 대화, Qwen 3.5 기반 GGUF 모델
다국어 텍스트 생성 및 대화4Bapache-2.0
Qwen 3.5 4B 모델을 기반으로 시스템 제약을 제거하고 GGUF 형식으로 양자화하여 로컬 환경에서의 자유로운 대화에 최적화한 모델이다.
핵심 역량
- 제약 없는 자유로운 텍스트 생성
- 영어 및 중국어 다국어 대화
- 로컬 환경 최적화 추론
- 멀티턴 대화 수행
강점
- 4B 파라미터로 낮은 하드웨어 요구사항 충족
- GGUF 포맷 지원으로 CPU/GPU 혼합 추론 가능
- 검열 없는 자유로운 답변 생성 능력
훈련 방식
Qwen 3.5 4B 기반 검열 해제 파인튜닝 및 GGUF 양자화 적용
알아두면 좋은 것
- Qwen 3.5 4B 기반의 경량화된 파라미터 구성
- 시스템 가드레일이 제거된 Aggressive 성향의 파인튜닝 적용
- Apache 2.0 라이선스로 상업적 이용 및 수정 가능
- GGUF 양자화 적용으로 VRAM 사용량 최소화
218
Likes
144.2k
Downloads
1 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.