TL;DR

Leanstral은 Mistral Small 4 계열로 설계된 대형 MoE 언어모델로, 119B 전체 파라미터와 토큰당 6.5B 활성화라는 MoE 특유의 효율 지표를 사용한다. 모델은 텍스트와 이미지 입력을 받아 텍스트 출력을 생성하며, 도구 호출을 통해 외부 코드 실행·검증을 통합하는 증명 에이전트로 목표가 설정되어 있다. 런타임 측면에서 vLLM 사용을 권장하며 FLASH_ATTN_MLA, tensor-parallel-size 등 구체적 서버 옵션과 함께 최대 256k 컨텍스트를 지원한다. Mistral Vibe와의 통합으로 시스템 프롬프트·도구 체인을 포함한 에이전트 워크플로우가 가능하고, reasoning_effort 옵션으로 추론 강도를 조절할 수 있다. 이 설계는 대규모 문맥과 증명·코드 실행이 필요한 워크로드에서 장점이 있으나, README에는 학습 절차(SFT/DPO 등)나 공개된 벤치마크 수치가 명시되지 않아 학습 데이터·성능 비교의 구체적 판단 근거는 부족하다. Apache-2.0 라이선스와 멀티모달·도구연동은 제품화 관점의 실용적 이점으로 남는다.

핵심 포인트

• MoE(128 experts) 기반으로 토큰당 활성화 파라미터를 6.5B로 제한한 설계
• 256k 토큰의 대규모 컨텍스트 지원을 명시한 점
• Lean 4 전용 증명 에이전트로 도구 호출(실행·컴파일)과의 긴밀한 통합을 제공
• Apache-2.0 라이선스로 공개되어 상업적 활용 제약이 낮음