TL;DR

SIQ-1-tiny-35b는 Qwen3.6-35B-A3B를 기반으로 MoE 구조를 유지한 채 증류한 모델로, 총 35B 파라미터이지만 토큰당 약 3B만 활성화되도록 설계되어 추론 비용을 낮췄다. SFT/RFT/DPO/offline-GRPO 계열의 후처리와 판정자 기반 PPO 실험을 결합해 에이전트형 작업, 코드 작성·디버깅, 고난도 추론에서 성능을 끌어올렸다. 동일한 로컬 하드웨어(단일 A6000)와 agent 루프 조건에서 autoresearch 테스트 val_bpb 1.767을 기록했고, GPQA-Diamond(Q4, greedy)에서는 정확도 70.2%와 평균 3158 토큰/질문으로 'Pareto-best' 위치에 올랐다. BullshitBench v2에서는 평균 1.047로 Nex-N2-Pro와 유사한 pushback 특성을 보였으며, <think> 태그와 Reasoning effort 토글을 통해 내부 사고 길이와 출력 형식을 제어할 수 있다. 결과적으로 SIQ는 실사용에서 토큰 비용 대비 정확도를 개선하려는 설계이며, MoE+distillation 조합과 후처리 정책으로 대형 베이스의 표현력을 유지하면서 실효 연산 비용을 낮인 점이 핵심이다. 한편 벤치마크는 동일한 로컬 조건에서의 비교 결과로, 공식 대형 클러스터 리더보드와는 직접 비교가 제한적이다.

핵심 역량

• 하드 reasoning에서 <think>…</think> 블록을 사용한 내부 사고(체인 오브 사고 유사) 출력
• 자율적 연구(autoresearch) 루프에서 학습 구성·하이퍼파라미터 제안과 코드 변경 제시
• 코드 작성·디버깅 및 에이전트형 툴 호출 워크플로를 포함한 agentic 작업
• 그리디(temperature=0) 설정에서 높은 객관적 정확도와 낮은 토큰 비용 달성
• 대용량 문맥(예시: 총 컨텍스트 131072로 분할 사용)을 활용한 긴 추론 세션 지원

강점

• GPQA-Diamond(공동 측정, Q4)에서 정확도 70.2%로 동급 대비 높은 정확도와 평균 토큰 3158로 비용 효율성에서 우위를 보였다.
• openai/parameter-golf 기반의 동일 조건 autoresearch duel에서 val_bpb 1.767을 기록해 같은 설정의 Qwen3.6-35B-A3B(1.808)보다 개선되었고, 상위 상대로 분류된 모델과 근접한 성능을 보였다.
• BullshitBench v2에서 평균 1.047을 기록해 Nex-N2-Pro(1.04)와 유사한 pushback 성향을 보였고, 패널 기반 거부·수용 분포(45/17/38)를 공개했다.

훈련 방식

Qwen/Qwen3.6-35B-A3B 기반으로 MoE 구조를 유지한 채 distillation과 SFT/RFT/DPO/offline-GRPO 기반 후처리를 거쳤고, 판정자 상위 절반으로 선택된 데이터에 대해 PPO 실험을 수행했다.

알아두면 좋은 것

• 아키텍처는 MoE 기반으로 설계되어 총 35B 파라미터지만 토큰당 약 3B만 활성화되도록 증류되었다.
• 후처리 실험으로 SFT / RFT / DPO / offline-GRPO 를 적용하고, 판정자 상위 절반 데이터로 PPO를 수행해 ideation·agent 역량을 개선했다고 보고되었다.
• 배포 형식으로 merged bf16 safetensors와 Quantized GGUF(Q4_K_M 등)를 제공하며, llama.cpp와 sglang 예시를 통해 단일 48GB GPU 또는 다중 48GB 구성에서의 실행 플래그를 제시했다.
• 추론 제어로 chat_template_kwargs.enable_thinking을 통해 <think> 블록을 켜고 Reasoning effort( low|medium|high )로 체인 길이를 조절하는 동작 제어가 포함되었다.

기술적 특징

• MoE 기반의 'tiny' 운영: 모델은 총 35B 파라미터이며 토큰당 활성화되는 실질 파라미터는 약 3B다. 이 설계는 전체 파라미터의 표현력을 유지하면서도 토큰별 연산·메모리를 크게 줄여 저비용 추론을 가능하게 했다.
• 지식 증류와 에이전트·정책 후처리: 큰 베이스 모델에서 증류를 거쳐 작은 활성 용량으로 퀄리티를 유지했고, SFT/RFT/DPO 및 offline-GRPO와 PPO 실험을 결합해 ideation·agent 성능을 추가로 개선했다.
• 추론·행동 제어용 인터페이스: Qwen3 채팅 템플릿의 <think> 태그와 Reasoning effort 시스템 프롬프트 토글을 통해 내부 사고 길이와 출력 형식을 조절한다. 이로 인해 하드한 수리·계획 문제에서 'thinking' 모드를 켜고 답을 생성하는 워크플로를 구현했다.
• 로컬·경량 배포 최적화: merged bf16 safetensors와 여러 GGUF 양자화(Q4_K_M / Q5_K_M / Q8_0)를 제공하며, llama.cpp 예시에서 -c 131072, -np 4 등 컨텍스트 분할 설정을 권장해 대용량 컨텍스트를 효율적으로 처리하도록 구성했다.
• 실험적 학습·운영 팁을 포함: autoresearch duel에서 학습률 및 용량 편집(LR schedule, matrix_lr, warmdown 등)을 통해 실시간 개선을 달성했다고 기재해 실제 에이전트 루프에서의 하이퍼파라미터 개입이 성능에 직접적 영향을 줌이 확인됐다.

차별점

• 토큰당 활성화 파라미터가 약 3B인 MoE 'tiny' 형태로, 전체 35B 용량을 유지하면서 추론 비용을 낮춘 구조
• 추론 중 <think>…</think> 내부 사고 블록과 Reasoning effort 제어로 하드한 추론·에이전트 계획을 모델 내부에서 관리하는 동작 제어 지원
• GPQA-Diamond에서 정확도와 토큰 비용 모두에서 Pareto 우위를 보고하며 실용적 비용-정확도 균형을 목표로 설계됨
• 로컬 배포 친화적 포맷(GGUF Q4_K_M 등)과 구체적인 llama.cpp/sglang 실행 플래그를 README에서 제공

벤치마크

이미지 분석