본문으로 건너뛰기

트렌딩 - GitHub 인기 레포 & HuggingFace 모델

돌아가기
모델 이동

HauhauCS/Qwen3.6-27B-Uncensored-HauhauCS-Aggressive

이미지·텍스트 입력을 처리하는 멀티모달 대화, 추론, 코딩 모델27B dense parameters262K 컨텍스트apache-2.0

Qwen3.6-27B 기반 멀티모달 GGUF 양자화 모델

학습 방식 · Qwen/Qwen3.6-27B 기반의 uncensored 변형으로, 데이터셋과 기능 변경 없이 거부 응답을 제거한 뒤 importance matrix를 적용한 GGUF 양자화를 제공하는 방식입니다.

TL;DR

이 모델은 Qwen/Qwen3.6-27B를 기반으로 거부 응답만 제거한 Aggressive 변형의 GGUF 양자화 모델입니다. K_P와 IQ 계열 양자화는 importance matrix로 abliterated weights의 품질 손실을 줄이며, Q4_K_P는 18GB, Q8_K_P는 32GB 파일로 제공됩니다. 텍스트·이미지·비디오를 네이티브 처리하고 262K 컨텍스트와 Thinking mode를 지원하며, 이미지 입력에는 928MB mmproj가 추가로 필요합니다. README 자체 평가에서 465개 프롬프트 중 거부 0건을 기록했지만, 안정적인 sampling과 일반적인 에이전트 작업에는 Balanced 변형을 기본 선택으로 권장합니다.

핵심 포인트

  • Qwen/Qwen3.6-27B를 기반으로 거부 응답을 제거한 GGUF 양자화 모델입니다. Aggressive 변형은 강한 프롬프트에서 사전 설명 없이 곧바로 답변하도록 조정됐습니다. README는 데이터셋이나 원본 기능을 변경하지 않았다고 밝힙니다.
  • K_P 양자화는 모델별 importance matrix로 중요한 가중치를 우선 보존합니다. 기본 양자화보다 약 5~15% 큰 파일로 품질을 1~2단계 높은 양자화 수준에 가깝게 유지하도록 설계됐습니다. llama.cpp와 LM Studio에서 별도 빌드 없이 사용할 수 있습니다.
  • 텍스트뿐 아니라 이미지와 비디오를 처리하는 네이티브 멀티모달 구조를 제공합니다. 이미지 입력에는 본체 GGUF와 함께 928MB 크기의 f16 mmproj 파일이 필요합니다. 262K 기본 컨텍스트를 지원하고 YaRN으로 약 1M까지 확장할 수 있습니다.
  • Thinking mode가 기본 활성화되며 채팅 템플릿 인자로 추론 모드를 끌 수 있습니다. llama.cpp에서는 enable_thinking=false를 지정하고 preserve_thinking=true로 에이전트 대화의 추론 블록을 유지합니다. Qwen3의 /think와 /no_think 소프트 스위치는 지원하지 않습니다.

제한사항

  • Aggressive 변형은 Balanced보다 안정적인 sampling이 필요한 일반 용도에 덜 적합할 수 있습니다. README는 특별한 이유가 없는 사용자의 99.9% 이상에게 Balanced를 권장합니다. Aggressive는 강한 프롬프트에서 사전 설명을 생략하려는 경우에만 선택하도록 안내됩니다.
  • 전체 기능을 사용하려면 실행 환경이 GGUF와 멀티모달 mmproj를 함께 지원해야 합니다. Vision 입력은 본체 파일만으로 처리되지 않고 별도의 f16 mmproj 파일이 필요합니다. llama.cpp에서 262K를 넘는 컨텍스트를 위해 YaRN을 활성화하면 짧은 컨텍스트 성능이 저하될 수 있습니다.

벤치마크

벤치마크지표값비교
Refusal benchmarkrefusal rate0/465README의 자동·수동 평가 수치이며 Balanced 변형과 동일한 결과

707

LIKES

298.5k

DOWNLOADS

3 / 0

조회수

관련 토론

아직 관련 토론이 없습니다.

댓글

댓글을 작성하려면 로그인이 필요합니다.