KyleHessling1/Qwopus3.6-27B-Fusion-GGUF
추론 특화와 코딩 특화 27B 파인튜닝을 레이어 깊이별로 다르게 섞어 둘 다 살린 실험적 병합 모델.
학습 방식 · 두 파인튜닝(v2=추론, Coder=코딩)을 mergekit 대신 직접 작성한 텐서 키 단위 스트리밍 병합 스크립트로 합쳤다. v2를 앵커로 고정하고 레이어별 α(L)·(Coder−v2) 델타를 더한 뒤 bfloat16으로 캐스팅, GGUF 변환·Q4_K_M 양자화까지 전 과정을 하나의 재현 가능한 스크립트로 공개했다.
TL;DR
Qwopus3.6-27B-Fusion은 Qwen3.6-27B에서 각각 파생된 추론 특화 v2와 코딩 특화 Coder 두 파인튜닝을 병합한 27B 모델로, Coder가 v2의 후속 파생물이라는 계보 관계를 이용해 v2를 앵커로 고정하고 레이어 깊이에 따라 0.12(초반)에서 0.48(후반)로 커지는 계수로 Coder 델타만 얹는 방식을 썼다. 초반 레이어에서는 Coder의 델타가 v2의 추론 표현과 반대 방향(anti-aligned)으로 작용해 불안정을 유발하는 것으로 분석돼, 이를 적게 주입해 보호하고 델타가 서로 일치하는 후반 레이어에서는 코딩 능력을 강하게 얹었다. HumanEval 94.5%, MBPP 87.9%, GSM8K 95.0%를 기록했고, 온도 0.2·0.9 양쪽에서 4/4 termination이 깨끗해 두 부모 모델이 겪던 저온 반복 루프 문제가 병합 후 오히려 완화됐다. SWE-bench Verified astropy 서브셋에서는 7/15로 동일 조건의 동일가중 DARE-TIES(5/15)·38B 프랑켄머지(3/15)보다 나았지만, 저자는 n=15라 이 차이가 노이즈 범위 안이라고 직접 밝혔다. Q4_K_M(16.5GB)로 양자화돼 24~32GB GPU 한 대에서 llama.cpp로 구동되며, 스스로 코드를 짜고 Playwright 오류 리포트를 받아 고치는 폐쇄 루프 코딩 에이전트 백엔드로 설계됐다.
핵심 포인트
- Coder가 v2의 후속 파생물이라는 계보를 이용해 v2를 앵커로 삼고, 깊이에 따라 0.12→0.48로 커지는 계수로 Coder 델타를 얹었다.
- HumanEval 94.5%·MBPP 87.9%·GSM8K 95.0%를 기록했고, 온도 0.2와 0.9 양쪽에서 반복 루프 없이 종료됐다.
- SWE-bench astropy 서브셋 7/15로 동일가중 DARE-TIES(5/15)를 앞섰지만 저자는 n=15라 노이즈 범위라고 인정했다.
- Playwright로 자기 코드를 검증하고 오류 리포트를 받아 스스로 고치는 build→run→self-fix 루프용으로 설계됐다.
제한사항
- 대규모 안전 정렬·RLHF·레드티밍을 거치지 않아 Qwen 베이스와 두 부모 파인튜닝의 편향·한계를 그대로 물려받는다.
- 가장 어려운 에이전트 과제에서는 과도하게 고민하다 답을 내지 않고 생성 한도에 도달하는 경우가 있어 max_tokens를 약 8K로 제한해 완화해야 한다.
- Q4_K_M에서만 검증됐고 다른 양자화 정밀도는 따로 벤치마크되지 않았다.
벤치마크
| 벤치마크 | 지표 | 값 | 비교 |
|---|---|---|---|
| HumanEval | pass@1 (Q4_K_M, thinking-on) | 94.5% | 저자 자체 측정 |
| MBPP | accuracy (Q4_K_M, thinking-on) | 87.9% | 저자 자체 측정 |
| GSM8K | accuracy (Q4_K_M, thinking-on) | 95.0% | 저자 자체 측정 |
| IFEval (strict) | accuracy (Q4_K_M, thinking-on) | 82.8% | 저자 자체 측정 |
| SWE-bench Verified (astropy slice) | resolved (Q4_K_M, thinking-on) | 7/15 (47%) | 동일가중 DARE-TIES 5/15, DUS-38B 프랑켄머지 3/15 (저자 자체 측정, n=15) |
77
LIKES
15.2k
DOWNLOADS
1 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.
