미니맥스-M2 시리즈: 미니 활성화를 통한 현실 세계 지능의 극대화

왜 중요한가

대형 언어 모델의 긴 컨텍스트와 실환경 task에 대한 효율성과 확장성 문제를 해결하기 위해, 미니 활성화 원칙을 채택한 MoE 기반 M2 시리즈를 제안한다. 에이전트-주도 데이터 파이프라인과 Forge RL 시스템, 그리고 자율 디버깅에 이르는 self-evolution으로 10억 단위의 활성화 파라미터에도 불구하고 에이전트 코딩, 협업 작업, 추론 및 지식 벤치마크에서 프런티어에 근접한 성능을 달성한다.

핵심 기여

에이전트-주도 데이터 파이프라인

에이전트 코딩, 협업(Cowork), 추론, 지식 작업을 대상으로 대규모 파이프라인을 설계하고 각 태스크에 실행 가능한 워크스페이스와 실행 가능한 보상 신호를 제공한다. 보상의 질과 신뢰성을 높여 트랙터리(trajectory)의 품질을 높이는 것이 핵심이며, 실행 가능한 환경과 평가 신호가 재현 가능하게 구성된다.

Forge: 에이전트-네이티브 RL 시스템

White-box/Black-box 에이전트를 포용하는 단일 학습 루프를 구성하고, training/inference/에이전트 간의 결합을 해체한 로버스트한 RL 파이프라인을 구현한다. Windowed-FIFO Scheduling, Prefix-Tree Merging, 추론 커널 최적화, 데이터 파이프라인과 RL 트레이닝의 분리 등을 통해 대규모 샘플 효율과 확장성을 달성한다.

M2.7의 자가 진화(Self-Evolution)

훈련 런의 실패를 스스로 triage하고, 태스크 간 에이전트 스캐폴드를 수정하며, 다라운드 자기 개선으로 인간의 개입을 최소화한다. M2.7은 자동 디버깅과 환경 구성의 조정에서 30%~50%의 일일 반복 작업 부담을 줄이고, 100링크의 자율 반복으로 파라미터 스캐폴드를 개선한다.

MoE 기반 대규모 모델의 효과적 확장

총 파라미터 229.9B 중 활성화 파라미터 9.8B, 256개 미세-expert, 토큰당 8개의 experts 활성화, Sigmoid gating, RoPE 기반의 full multi-head attention으로 고효율성을 유지한다. 62-layer decoder-only Transformer 구조를 채택하고 192K 토큰의 native context window를 갖는다.

핵심 아이디어 이해하기

단계별 요점 1: MoE 구조를 통해 대규모 용량을 유지하면서 per-token 계산을 낮추고, 9.8B 활성화 파라미터라는 작은 수치로도 강력한 실전 능력을 달성한다. 단계별 요점 2: Fine-Grained Experts를 도입하고, Sigmoid gating 및 학습 가능한 expert-bias를 통해 로드 밸런싱을 개선하며, 상호 의존적 보상 구조로 다수의 전문가를 효과적으로 활용한다. 단계별 요점 3: MTP 모듈을 도입해 다중 토큰 예측을 가능하게 하고, continued pre-training에서 MTP 모듈의 복제(weight copying)로 3개의 모듈 확장을 신속하게 안정시킨다. 단계별 요점 4: 사전 학습 이후 포스트-트레이닝 데이터 파이프라인(SWE, AppDev, Terminal-Gym, Office tasks 등)을 구축하여 에이전트 코딩, 협업, 추론의 실세계 작업에 맞춘 데이터를 생성한다. 단계별 요점 5: Forge RL 시스템은 white-box/black-box 에이전트를 모두 포용하고, Windowed FIFO, Prefix Tree Merging 등으로 대규모 롤아웃에서의 학습 안정성과 속도를 확보한다. 단계별 요점 6: M2.7은 자가 학습 파이프라인과 스캐폴드 업그레이드를 통해 스스로의 인프라를 개선하며, 자율 실험 및 오류 수정의 루프를 통해 프런티어 모델 대비 효율적인 학습을 가능하게 한다.

방법론

단계 1. 모델 설계: 229.9B 총 파라미터, 9.8B 활성화 파라미터, 256개의 fine-grained experts, 8 active per token, Sigmoid gating, RoPE 기반 full multi-head attention, 192K 토큰 컨텍스트 윈도우, MTP 모듈 도입. 입력-출력은 다음 토큰 예측과 함께 multi-token 예측 신호를 생성한다. [입력] → [게이팅/라우팅] → [선택된 전문가들에 의한 FFN 연산] → [다음 토큰 예측] → [MTP 모듈의 확장으로 3개의 MTP 모듈 도입] → [추론 시 speculative path로 활용]. 단락 2. 모델 설계의 핵심 메커니즘: Fine-Grained Experts, Sigmoid gating, Expert bias, 8명의 활성 experts, 256개 FFN, 0-1 분리 가능한 상호작용, MTP를 통한 다중 토큰 예측, weight copying으로 MTP 모듈 확장. 단락 3. 학습/데이터 설계: 사전 학습 데이터 29.2T 토큰, 19.9T+, Long-context 확장(8K→32K→192K), 코드·수학·STEM 중심 데이터 업샘플링, Multi-Token Prediction으로 speculation을 가능하게 함. 단락 4. 포스트-트레이닝 데이터 수집: SWE(AppDev 포함) 및 Terminal-Gym, 지능형 도메인에 특화된 데이터 파이프라인과 Expert-in-the-Loop, AaaV를 통한 검증. 단락 5. RL 환경/인프라: Forge RL 시스템 구성(Agent Side, White/Black Box, Gateway Server, Data Pool, Rollout Train Engines), Windowed FIFO, Prefix Tree Merging, MTP 보조, CISPO 기반 정책 최적화. 단락 6. 평가/실험 설계: agentic 코딩/협업/추론 벤치마크를 포함한 다중 벤치마크와, M2.7의 자기 진화 및 자율 개선 사례 제시.

주요 결과

주요 벤치마크에서의 성능은 다음과 같다. SWE-bench Pro: 56.2, SWE-bench Multilingual: 76.5, Multi-SWE-bench: 52.7, NL2Repo: 39.8, Terminal-Bench 2.0: 57.0, MLE Bench Lite: 66.6. 도구 사용 및 오피스 작업에서 BrowseComp: 77.8, Wide Search: 75.2, RISE: 64.3, GDPval-AA: 50.0, Toolathlon: 46.3, MM Claw: 62.7, MEWC v2: 63.3, Finance Modeling Pro: 57.0. Reasoning/지식 벤치마크에서 AIME 2026: 94.2, GPQA-Diamond: 89.8, SciCode: 47.0, IFBench: 76.0, AA-LCR: 72.0, HLE: 28.0, MMLU-Pro: 81.8. 세부적으로는 Checkout 및 비교 벤치마크에서 M2.7이 기존 Ø 파라미터 대비 유사한 수준의 성능을 달성하며, 특히 agentic deep-search, tool-use, 자가 ML 엔지니어링 분야에서 가장 큰 향상을 보인다. 또한 M2.7은 M2.5 대비 전반적으로 벤치마크에서 개선되었고, M2 시리즈의 데이터 파이프라인/Forge RL/self-evolution의 시너지가 점진적으로 누적되었다.

기술 상세

전체 아키텍처: 62-layer decoder-only Transformer, hidden dim 3,072, vocab 200,064, 192K 컨텍스트 윈도우. MoE FFN은 256개 전문가, 각 토큰당 8명 활성화, sigmoid gating, learnable per-expert bias, RoPE를 적용한 전체-다중-head-attention. 추가로 MTP 모듈 도입으로 다음 토큰 𝐾개를 함께 예측하고, Continued pre-training에서 K=1에서 K=3으로 확장하여 3개의 MTP 모듈 도입. 데이터: pre-training 29.2T 토큰, long-context extension 8K→32K→192K. 포스트-트레이닝: SWE(AppDev), Terminal-Gym, Agentic Cowork, Role-Play, 일반 대화 데이터 포함. 학습 전략: SFT, RLHF 기반 정책 최적화, CISPO 기반 손실 구성, 보상 설계는 프로세스 보상/속도 보상/성능 보상으로 구성. 공정 평가: Windowed FIFO, Prefix Tree Merging, MTP, White-box/Black-box 지원, Agent-as-a-Verifier를 통한 TASK 검증, 4도메인 혼합 학습(Reasoning/Coding/Agent/General). Forge RL 아키텍처: Agent Side, Gateway Middleware, Rollout Engine, Train Engine으로 분리. 인터리브드Thinking과 Plan-Act-Reflect 루프를 도입해 추론-도구 호출의 상태를 지속적으로 유지. Self-Evolution: Model Iteration System으로 인간-모델 하이브리드 운영을 넘어, 자율적으로 하이픈(throughput)과 데이터 파이프라인 개선. 수식/수학적 기초는 CISPO의 로그-확률 및 비례 업데이트를 기반으로 한 정책 그래디언트 방식으로 구현되며, 중요도 샘플링의 clipping 및 reward-to-go 기법을 사용한다.

실무 활용

실무 적용 가능성을 입증하며, 약 10B 활성화 파라미터로도 프런티어 시스템에 버금가는 퍼포먼스를 달성한다. 교육/개발 파이프라인, 에이전트-네이티브 RL, 자가 진화 기능을 갖춘 엔터프라이즈 생산 환경에 적용 가능하다.

에이전트 기반 코드 개발 및 유지보수 자동화
기업 내부 리포지토리 관리 및 자동 디버깅 파이프라인 구축
대형 오피스 생성을 자동화하는 도구로의 활용(슬라이드, 리포트, 프리젠테이션)
웹 연구 및 자료 수집 자동화 대규모 멀티 툴 사용 에이전트 구현

코드 공개 여부: 비공개

키워드

Mixture-of-Experts (MoE)agent-driven data pipelinesForge RL systemwindowed-FIFO schedulingprefix-tree mergingMulti-Token Predictionself-evolutioninterleaved thinking

용어 해설

Mixture-of-Experts (MoE): — 입력 경로를 여러 개의 소형 전문가로 분할하여 각 토큰당 활성화되는 전문가의 수를 작게 유지하면서도 전체 표현력을 확장하는 모형 구조이다. MoE는 256개와 같은 소형 포함 전문가를 활용해 파라미터 수는 크게 늘리되 토큰당 활성화되는 전문가의 수를 제한해 연산 효율을 높인다.
Forge RL 시스템(Forge RL): — 대규모 agent-native RL 시스템으로 white-box와 black-box 에이전트를 통합 관점에서 학습 루프를 구성하고, windowed-FIFO 스케줄링, prefix-tree merging, 추론 커널 최적화 등을 결합해 RL 학습의 확장성과 안정성을 높인다.
Windowed-FIFO 스케줄링(Windowed-FIFO Scheduling): — 생성 대기열의 창(window)을 정의하고, 창 안에서는 완료된 트래젝토리를 즉시 처리하되 창 바깥의 트래젝토리는 순차적FIFO를 강제하여 학습 데이터의 분포를 유지하면서도 처리 효율을 개선한다.
Prefix Tree Merge(Prefix Tree Merging): — 다중 완료가 동일한 접두사를 공유하는 경우, 해당 접두사를 한 번만 계산하고 이후 분기로 분리하여 손실을 샘플별로 독립적으로 계산하는 트리 구조의 훈련 가속화 기법이다.
다중 토큰 예측(MTP)(Multi-Token Prediction): — 사전 학습 중 연속적으로 다음 K개의 토큰을 함께 예측하도록 학습 신호를 제공하며, 이를 통해 추론 시 speculative decoding을 가능하게 하는 모듈이다.
교차 사고(인터리브드 사고)(Interleaved Thinking): — 모델이 각 턴에서 명시적 사고(rThinking)와 도구 호출을 교차로 수행하도록 하는 설계 원칙으로, 사고 상태를 유지하며 계획-행동-반성 루프를 통해 지속적으로 계획을 업데이트한다.
자가 진화(Self-Evolution): — 모델이 훈련 스캐폴드를 자율적으로 수정하고 훈련 주기를 스스로 개선하는 단계로, M2.7에서 관찰된 훈련 런 디버깅 및 스캐폴드 편집 루프를 포함한다.