Qwen3.5-4B 무검열 버전 출시: 소형 모델의 강력한 성능과 자유도

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

새로 출시된 Qwen3.5-4B 모델을 기반으로 거절 응답을 완전히 제거하고 성능 손실 없이 멀티모달 기능을 유지한 무검열 모델이 공개되었습니다.

배경

Qwen의 최신 소형 모델인 Qwen3.5-4B가 출시됨에 따라, 개발자가 이를 기반으로 안전 가드레일을 제거한 무검열(Uncensored) 버전을 제작하여 커뮤니티에 공유했습니다.

의미 / 영향

이 모델의 등장은 소형 로컬 모델에서도 제약 없는 추론과 멀티모달 처리가 가능함을 입증하며, 개인용 AI 에이전트 시장의 확장을 시사합니다. 특히 하이브리드 어텐션 구조를 통한 효율적인 긴 문맥 처리는 저사양 하드웨어 사용자들에게 큰 혜택이 될 것입니다.

커뮤니티 반응

사용자들은 소형 모델임에도 불구하고 멀티모달 기능과 긴 컨텍스트를 유지한 채 무검열을 달성한 점에 대해 긍정적인 반응을 보이고 있습니다.

실용적 조언

최신 아키텍처를 지원하기 위해 반드시 llama.cpp의 최신 빌드를 사용해야 합니다.
사고 모드(Thinking mode)를 활용할 때는 온도(Temperature)를 0.6으로 설정하는 것이 권장됩니다.
일반 모드에서는 온도를 0.7로 설정하여 더 자연스러운 응답을 유도할 수 있습니다.

언급된 도구

llama.cpp추천

LLM 추론 엔진

LM Studio중립

로컬 LLM 실행 도구

Jan중립

데스크톱 AI 클라이언트

섹션별 상세

Qwen3.5-4B 모델의 기술적 특징과 아키텍처에 대한 상세 정보가 공개되었습니다. 이 모델은 40억 개의 파라미터를 가진 고밀도 모델로, 32개의 레이어와 Gated DeltaNet 선형 어텐션(Linear Attention) 및 풀 소프트맥스(Full Softmax)가 3:1 비율로 혼합된 하이브리드 구조를 채택했습니다. 특히 262K에 달하는 방대한 네이티브 컨텍스트 윈도우(Context Window)를 지원하며, 텍스트뿐만 아니라 이미지와 비디오까지 처리할 수 있는 멀티모달(Multimodal) 능력을 갖추고 있습니다.

무검열 성능 및 테스트 결과에 따르면 이 모델은 매우 공격적인 무검열 설정을 보여줍니다. 개발자는 Aggressive 변형 모델을 통해 테스트 중 발생한 465건의 요청에 대해 단 한 번의 거절도 없이 100% 응답하는 결과를 확인했습니다. 모델의 기본 학습 데이터에 포함된 것으로 보이는 짧은 면책 조항이 가끔 출력될 수 있으나, 이는 실제 응답 거절과는 무관하며 모델의 원래 추론 능력은 그대로 유지됩니다.

실행 환경 및 최적화 설정에 대한 가이드도 함께 제공되었습니다. 최신 아키텍처를 사용하므로 llama.cpp의 최신 빌드가 필수적이며, LM Studio나 Jan, koboldcpp 등 대중적인 도구들과 호환됩니다. 개발자는 사고 모드(Thinking mode)와 일반 모드(Non-thinking mode)에 최적화된 각각의 샘플링 설정값(Temperature, Top-p, Top-k)을 함께 제공하여 사용자가 모델의 성능을 최대한 끌어낼 수 있도록 돕고 있습니다.

실무 Takeaway

Qwen3.5-4B 모델의 가드레일을 완전히 제거하여 0%의 거절률을 달성한 무검열 버전이 출시되었습니다.
262K 컨텍스트와 멀티모달 기능을 성능 저하 없이 그대로 유지하면서도 소형 모델 특유의 가벼움을 갖췄습니다.
최신 아키텍처 대응을 위해 llama.cpp 최신 버전을 사용해야 하며, 향후 9B, 27B, 35B 모델의 무검열 버전도 출시될 예정입니다.

언급된 리소스

GitHubQwen3.5-4B-Uncensored-HauhauCS-Aggressive

GitHubHauhauCS Hugging Face 모델 목록