본문으로 건너뛰기

트렌딩 - GitHub 인기 레포 & HuggingFace 모델

DavidAU/Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking-NEO-CODE-Di-IMatrix-MAX-GGUF

이미지-텍스트 입력을 받아 자연어 생성·응답을 수행하는 멀티모달 텍스트 생성과 창작·코드 보조, 장문 추론 및 에이전트형 터미널·웹 코드 생성 작업을 수행한다.40B256K 컨텍스트apache-2.0

27B 기반을 40B로 밀집 확장하고 Deckard·Claude 4.6 Opus 데이터와 NEO-CODE-Di-IMatrix 퀀트를 적용해 긴 컨텍스트와 이미지-텍스트 생성에서 실용성과 성능을 높인 멀티모달 모델이다.

학습 방식 · 기반 모델은 Qwen3.6-27B이며 로컬 Unsloth 파이프라인으로 Deckard (PDK 5 datasets) 기반의 캐릭터·서사 데이터와 Claude 4.6 Opus Distill 고추론 데이터로 다단계(post-training / fine-tune) 튜닝을 수행해 성능과 추론 길이를 개선했다.

TL;DR

이 모델은 Qwen3.6-27B를 기반으로 밀집 구조를 40B로 확장하고 Deckard(PkDick 등) 내러티브 데이터와 Claude 4.6 Opus Distill 데이터를 순차 튜닝해 이미지-텍스트 생성과 장문 추론 능력을 높인 멀티모달 모델이다. 핵심 기술로는 NEO-CODE-Di-IMatrix-MAX라는 맞춤 퀀트 파이프라인과 텐서별 보정을 통해 저비트 환경에서도 BF16 대비 높은 성능 재현을 노린 점이 있으며 README에서 IQ4_XS=94%·Q8_0≈98.4% 같은 퀀트 성능 비율이 보고되었다. 모델은 256K 규모의 긴 컨텍스트를 지원하고 에이전트형 코딩·멀티모달 VQA·창작 작업에서 균형 잡힌 점수를 기록했으며, Uncensored(Heretic) 모드로 필터링을 제거한 특성 때문에 안전성·운영 정책과 관련된 사용 제한을 사전에 고려해야 한다.

핵심 포인트

  • 밀집 방식으로 기준 모델(27B)에서 40B로 확장한 후 다단계 튜닝을 적용한 점이 차별화 요소이다. 이 확장은 단순 파라미터 증가뿐 아니라 레이어·텐서 구조를 변경해 긴 사고 공간을 확보하는 데 목적을 두었으며 README에 96 레이어, 1,275 텐서라는 수치가 명시되어 있다. 따라서 동일 계열의 단순 파인튜닝 모델들과 구조적 용량에서 구별된다.
  • NEO-CODE-Di-IMatrix-MAX라는 자체 퀀트 설계와 텐서별 보정 과정을 통해 저비트 퀀트 환경에서도 BF16에 가까운 성능 재현을 목표로 했다는 점이 고유하다. README에서 IQ4_XS·Q8_0 등 퀀트별 성능 비율을 제시하며 각 퀀트를 벤치마크 기준으로 선택했다고 밝히고 있어 퀀트 품질 관리 측면에서 차이가 있다.
  • Heretic/Uncensored 모드로 먼저 자유로운 생성 성향을 구성한 뒤 Deckard·Claude 데이터로 안정성과 추론 능력을 보정하는 순차적 튜닝 파이프라인이 적용되었다. 이 구성은 모델이 창작적·공격적 표현을 허용하면서도 이후 단계에서 문제 해결·추론 안정성을 복원하도록 설계되었다는 점에서 운영·사용 관점의 차별화를 만든다.
  • 다중 벤치마크 표에서 전반적으로 경쟁력 있는 점수가 보고되었다는 사실이 README 표에서 확인된다. 특히 QwenWebBench Elo 1487, MMLU-Pro 86.2, LiveCodeBench·Claw 관련 지표에서 높은 실수를 보이며 코드·지식·멀티모달 태스크에서 균형 잡힌 성능을 보여준다. 이러한 수치들은 모델이 에이전트형 코딩 및 장문 추론 시 실용적 성능을 발휘함을 시사한다.

벤치마크

벤치마크지표비교
SWE-bench Verifiedscore77.2vs Claude 4.5 Opus: 80.9
Terminal-Bench 2.0score59.3vs Claude 4.5 Opus: 59.3
QwenWebBench (Elo)elo1487vs Claude 4.5 Opus: 1536
Claw-Eval (pass^3)pass@360.6vs Claude 4.5 Opus: 59.6
MMLU-Proaccuracy86.2vs Claude 4.5 Opus: 89.5
RealWorldQAaccuracy84.1vs Claude 4.5 Opus: 77.0

이미지 분석

모델 벤치마크 표를 시각화한 그래프 이미지로 Qwen 시리즈와 Gemma4, Claude 계열 비교 수치가 막대그래프로 나열되어 있다.
이미지는 다수의 내부·외부 벤치마크(코딩·지식·비전·공간지능 등)를 Qwen3.6-27B, Gemma4-31B, Claude 4.5 Opus 등과 비교한 결과를 한눈에 보여준다. 그래프는 지표별로 각 모델의 점수를 병렬 배치해 Qwen3.6 계열이 여러 항목에서 경쟁력이 있음을 시각적으로 확인할 수 있게 구성되었고, QwenWebBench의 Elo나 MMLU-Pro 같은 항목이 상대적 우위를 판별하는 핵심 축으로 제시되었다. 이 시각 자료는 README 표와 동일한 수치를 근거로 하며 모델의 다영역 성능 균형을 빠르게 가늠하는 목적에 적합하다.

572

LIKES

427.1k

DOWNLOADS

1 / 0

조회수

관련 토론

아직 관련 토론이 없습니다.

댓글

댓글을 작성하려면 로그인이 필요합니다.