본문으로 건너뛰기

트렌딩 - GitHub 인기 레포 & HuggingFace 모델

huihui-ai/Huihui-Qwen3.8-27B-abliterated

이미지·텍스트 입력을 처리하는 대화형 텍스트 생성27Bapache-2.0

Qwen3.8-27B에 abliteration을 적용해 거부 응답을 줄인 27B 변형 모델

학습 방식 · Qwen3.8-27B 기반 abliteration으로 거부 응답을 줄인 proof-of-concept 변형이다.

TL;DR

Qwen3.8-27B를 기반으로 abliteration을 적용한 uncensored 변형 모델이다. 거부 응답을 줄이는 proof-of-concept 구현이며, 첫 15개 layer는 abliteration에서 제외했다. MTP와 visual은 수정하지 않았고, README의 transformers 예제는 AutoModelForCausalLM과 chat template로 대화를 생성하며 enable_thinking 전환과 최대 40960 new tokens 설정을 제공한다. 정량 벤치마크는 공개되지 않아 원본 대비 성능은 판단할 수 없고, 안전 필터 축소 때문에 연구·통제 환경 중심의 사용이 필요하다.

핵심 포인트

  • Qwen3.8-27B를 기반으로 abliteration을 적용해 거부 응답을 줄인 변형 모델이다.
  • abliteration 과정에서 첫 15개 layer를 유지해 모델 초기 층에는 해당 변형을 적용하지 않았다.
  • MTP와 visual 구성은 손대지 않아 Qwen3.8-27B의 관련 처리 요소를 변경 대상에서 제외했다.
  • 안전 최적화가 충분하지 않아 민감하거나 부적절한 출력이 나올 수 있어 통제된 환경이 필요하다.

제한사항

  • README는 정량 벤치마크 수치를 제공하지 않는다. 따라서 원본 Qwen3.8-27B 대비 성능 변화는 확인할 수 없다. 성능 판단에는 별도 평가가 필요하다.
  • 안전 필터가 크게 줄어 민감하거나 부적절한 출력이 발생할 수 있다. 공개 환경이나 미성년자 대상 서비스에 적합하지 않을 수 있다. 출력 실시간 모니터링과 수동 검토가 요구된다.

82

Likes

1.5k

Downloads

0 / 0

조회수

관련 토론

아직 관련 토론이 없습니다.

댓글

댓글을 작성하려면 로그인이 필요합니다.