Qwen3.5-4B 무검열 버전 출시: 소형 모델의 강력한 성능과 자유도

커뮤니티 반응

사용자들은 소형 모델임에도 불구하고 멀티모달 기능과 긴 컨텍스트를 유지한 채 무검열을 달성한 점에 대해 긍정적인 반응을 보이고 있습니다.

실용적 조언

최신 아키텍처를 지원하기 위해 반드시 llama.cpp의 최신 빌드를 사용해야 합니다.
사고 모드(Thinking mode)를 활용할 때는 온도(Temperature)를 0.6으로 설정하는 것이 권장됩니다.
일반 모드에서는 온도를 0.7로 설정하여 더 자연스러운 응답을 유도할 수 있습니다.

섹션별 상세

Qwen3.5-4B 모델의 기술적 특징과 아키텍처에 대한 상세 정보가 공개되었습니다. 이 모델은 40억 개의 파라미터를 가진 고밀도 모델로, 32개의 레이어와 Gated DeltaNet 선형 어텐션(Linear Attention) 및 풀 소프트맥스(Full Softmax)가 3:1 비율로 혼합된 하이브리드 구조를 채택했습니다. 특히 262K에 달하는 방대한 네이티브 컨텍스트 윈도우(Context Window)를 지원하며, 텍스트뿐만 아니라 이미지와 비디오까지 처리할 수 있는 멀티모달(Multimodal) 능력을 갖추고 있습니다.

무검열 성능 및 테스트 결과에 따르면 이 모델은 매우 공격적인 무검열 설정을 보여줍니다. 개발자는 Aggressive 변형 모델을 통해 테스트 중 발생한 465건의 요청에 대해 단 한 번의 거절도 없이 100% 응답하는 결과를 확인했습니다. 모델의 기본 학습 데이터에 포함된 것으로 보이는 짧은 면책 조항이 가끔 출력될 수 있으나, 이는 실제 응답 거절과는 무관하며 모델의 원래 추론 능력은 그대로 유지됩니다.

실행 환경 및 최적화 설정에 대한 가이드도 함께 제공되었습니다. 최신 아키텍처를 사용하므로 llama.cpp의 최신 빌드가 필수적이며, LM Studio나 Jan, koboldcpp 등 대중적인 도구들과 호환됩니다. 개발자는 사고 모드(Thinking mode)와 일반 모드(Non-thinking mode)에 최적화된 각각의 샘플링 설정값(Temperature, Top-p, Top-k)을 함께 제공하여 사용자가 모델의 성능을 최대한 끌어낼 수 있도록 돕고 있습니다.

언급된 도구

llama.cpp추천

LLM 추론 엔진

LM Studio중립

로컬 LLM 실행 도구

Jan중립

데스크톱 AI 클라이언트

언급된 리소스

GitHubQwen3.5-4B-Uncensored-HauhauCS-Aggressive

GitHubHauhauCS Hugging Face 모델 목록