Mistral Small 4 출시: 추론, 멀티모달, 코딩 능력을 통합한 119B MoE 모델

섹션별 상세

Mistral Small 4는 Mistral의 플래그십 모델들인 Magistral(추론), Pixtral(멀티모달), Devstral(에이전트 코딩)의 역량을 하나의 범용 모델로 통합했다.

총 119B 파라미터 규모의 Mixture-of-Experts(MoE) 구조를 채택했으며 실제 추론 시에는 6B 파라미터만 활성화되어 높은 성능과 연산 효율성의 균형을 달성했다.

reasoning_effort 파라미터를 통해 추론 수준을 none 또는 high로 설정할 수 있으며 high 설정 시 이전 Magistral 모델과 동등한 수준의 상세한 사고 과정을 거친 답변을 생성한다.

bash

llm install llm-mistral
llm mistral refresh
llm -m mistral/mistral-small-2603 "Generate an SVG of a pelican riding a bicycle"

llm CLI 도구를 사용하여 Mistral Small 4 모델을 설치하고 SVG 이미지 생성을 요청하는 예시

Hugging Face에 242GB 용량으로 업로드되었으며 오픈 소스 친화적인 Apache 2 라이선스를 적용하여 커뮤니티와 기업이 제약 없이 모델을 수정하고 배포할 수 있다.

함께 발표된 Leanstral은 Lean 4 정형 검증 코딩 언어 출력에 최적화된 오픈 웨이트 모델로 특정 전문 언어에 대한 정밀한 코드 생성을 지원한다.

전문가 혼합(MoE): — 전체 파라미터 중 입력값에 적합한 일부 전문가 네트워크만 활성화하여 추론하는 구조다. 모델의 전체 용량은 키우면서도 실제 연산량과 추론 속도를 효율적으로 유지할 수 있어 대규모 언어 모델의 핵심 기술로 자리 잡았다.
아파치 2 라이선스(Apache 2 License): — 소프트웨어의 자유로운 사용, 수정, 배포 및 상업적 이용을 허용하는 관대한 오픈소스 라이선스다. 저작권 고지 의무만 지키면 누구나 무료로 사용할 수 있으며 특허권 행사를 제한하는 조항이 포함되어 기업 환경에서 선호된다.
린 4(Lean 4): — 수학적 증명이나 소프트웨어 알고리즘의 결함 없음을 기계적으로 검증하기 위해 사용되는 정형 검증 프로그래밍 언어다. 일반적인 코딩과 달리 논리적 무결성을 증명해야 하므로 매우 높은 수준의 정밀도가 요구되는 도메인이다.
추론 강도(Reasoning Effort): — 모델이 답변을 생성하기 전 내부적으로 논리적 사고 과정을 얼마나 깊고 길게 수행할지 결정하는 제어 파라미터다. 복잡한 수학 문제나 논리 퍼즐을 풀 때는 높게 설정하여 정확도를 높이고 단순 질의응답 시에는 낮게 설정하여 응답 속도를 최적화할 수 있다.