huihui-ai/Huihui-Qwen3.8-27B-abliterated
이미지·텍스트 입력을 처리하는 대화형 텍스트 생성27Bapache-2.0
Qwen3.8-27B에 abliteration을 적용해 거부 응답을 줄인 27B 변형 모델
학습 방식 · Qwen3.8-27B 기반 abliteration으로 거부 응답을 줄인 proof-of-concept 변형이다.
TL;DR
Qwen3.8-27B를 기반으로 abliteration을 적용한 uncensored 변형 모델이다. 거부 응답을 줄이는 proof-of-concept 구현이며, 첫 15개 layer는 abliteration에서 제외했다. MTP와 visual은 수정하지 않았고, README의 transformers 예제는 AutoModelForCausalLM과 chat template로 대화를 생성하며 enable_thinking 전환과 최대 40960 new tokens 설정을 제공한다. 정량 벤치마크는 공개되지 않아 원본 대비 성능은 판단할 수 없고, 안전 필터 축소 때문에 연구·통제 환경 중심의 사용이 필요하다.
핵심 포인트
- Qwen3.8-27B를 기반으로 abliteration을 적용해 거부 응답을 줄인 변형 모델이다.
- abliteration 과정에서 첫 15개 layer를 유지해 모델 초기 층에는 해당 변형을 적용하지 않았다.
- MTP와 visual 구성은 손대지 않아 Qwen3.8-27B의 관련 처리 요소를 변경 대상에서 제외했다.
- 안전 최적화가 충분하지 않아 민감하거나 부적절한 출력이 나올 수 있어 통제된 환경이 필요하다.
제한사항
- README는 정량 벤치마크 수치를 제공하지 않는다. 따라서 원본 Qwen3.8-27B 대비 성능 변화는 확인할 수 없다. 성능 판단에는 별도 평가가 필요하다.
- 안전 필터가 크게 줄어 민감하거나 부적절한 출력이 발생할 수 있다. 공개 환경이나 미성년자 대상 서비스에 적합하지 않을 수 있다. 출력 실시간 모니터링과 수동 검토가 요구된다.
82
Likes
1.5k
Downloads
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.