Mistral Small 4 출시: 추론, 멀티모달, 코딩 능력을 통합한 119B MoE 모델

섹션별 상세

Mistral Small 4는 Mistral의 플래그십 모델들인 Magistral(추론), Pixtral(멀티모달), Devstral(에이전트 코딩)의 역량을 하나의 범용 모델로 통합했다.

Mistral Small 4가 생성한 자전거를 타는 펠리컨 SVG 이미지의 렌더링 결과다. — Screenshot모델의 멀티모달 및 코드 생성 능력을 테스트하기 위해 SVG 코드를 생성하게 한 결과물이다. 자전거가 뒤집혀 있는 등 물리적 정확도는 낮으나 텍스트 지시사항을 시각적 코드로 변환하여 복잡한 객체를 표현하려는 시도를 보여준다.

총 119B 파라미터 규모의 Mixture-of-Experts(MoE) 구조를 채택했으며 실제 추론 시에는 6B 파라미터만 활성화되어 높은 성능과 연산 효율성의 균형을 달성했다.

reasoning_effort 파라미터를 통해 추론 수준을 none 또는 high로 설정할 수 있으며 high 설정 시 이전 Magistral 모델과 동등한 수준의 상세한 사고 과정을 거친 답변을 생성한다.

bash

llm install llm-mistral
llm mistral refresh
llm -m mistral/mistral-small-2603 "Generate an SVG of a pelican riding a bicycle"

llm CLI 도구를 사용하여 Mistral Small 4 모델을 설치하고 SVG 이미지 생성을 요청하는 예시

Hugging Face에 242GB 용량으로 업로드되었으며 오픈 소스 친화적인 Apache 2 라이선스를 적용하여 커뮤니티와 기업이 제약 없이 모델을 수정하고 배포할 수 있다.

함께 발표된 Leanstral은 Lean 4 정형 검증 코딩 언어 출력에 최적화된 오픈 웨이트 모델로 특정 전문 언어에 대한 정밀한 코드 생성을 지원한다.

용어 해설

전문가 혼합(MoE): — 전체 파라미터 중 입력값에 적합한 일부 전문가 네트워크만 활성화하여 추론하는 구조다. 모델의 전체 용량은 키우면서도 실제 연산량과 추론 속도를 효율적으로 유지할 수 있어 대규모 언어 모델의 핵심 기술로 자리 잡았다.
아파치 2 라이선스(Apache 2 License): — 소프트웨어의 자유로운 사용, 수정, 배포 및 상업적 이용을 허용하는 관대한 오픈소스 라이선스다. 저작권 고지 의무만 지키면 누구나 무료로 사용할 수 있으며 특허권 행사를 제한하는 조항이 포함되어 기업 환경에서 선호된다.
린 4(Lean 4): — 수학적 증명이나 소프트웨어 알고리즘의 결함 없음을 기계적으로 검증하기 위해 사용되는 정형 검증 프로그래밍 언어다. 일반적인 코딩과 달리 논리적 무결성을 증명해야 하므로 매우 높은 수준의 정밀도가 요구되는 도메인이다.
추론 강도(Reasoning Effort): — 모델이 답변을 생성하기 전 내부적으로 논리적 사고 과정을 얼마나 깊고 길게 수행할지 결정하는 제어 파라미터다. 복잡한 수학 문제나 논리 퍼즐을 풀 때는 높게 설정하여 정확도를 높이고 단순 질의응답 시에는 낮게 설정하여 응답 속도를 최적화할 수 있다.

기술

Mistral Small 4
Leanstral
Hugging Face
llm-mistral

활용 사례

범용 AI 에이전트
정형 검증 코드 생성
멀티모달 데이터 처리
비용 효율적 추론 시스템

언급된 리소스

문서Mistral Small 4 on Hugging Face

GitHubllm-mistral plugin

섹션별 상세

Mistral Small 4는 Mistral의 플래그십 모델들인 Magistral(추론), Pixtral(멀티모달), Devstral(에이전트 코딩)의 역량을 하나의 범용 모델로 통합했다.

bash

llm install llm-mistral
llm mistral refresh
llm -m mistral/mistral-small-2603 "Generate an SVG of a pelican riding a bicycle"

llm CLI 도구를 사용하여 Mistral Small 4 모델을 설치하고 SVG 이미지 생성을 요청하는 예시

함께 발표된 Leanstral은 Lean 4 정형 검증 코딩 언어 출력에 최적화된 오픈 웨이트 모델로 특정 전문 언어에 대한 정밀한 코드 생성을 지원한다.

용어 해설

전문가 혼합(MoE): — 전체 파라미터 중 입력값에 적합한 일부 전문가 네트워크만 활성화하여 추론하는 구조다. 모델의 전체 용량은 키우면서도 실제 연산량과 추론 속도를 효율적으로 유지할 수 있어 대규모 언어 모델의 핵심 기술로 자리 잡았다.
린 4(Lean 4): — 수학적 증명이나 소프트웨어 알고리즘의 결함 없음을 기계적으로 검증하기 위해 사용되는 정형 검증 프로그래밍 언어다. 일반적인 코딩과 달리 논리적 무결성을 증명해야 하므로 매우 높은 수준의 정밀도가 요구되는 도메인이다.
추론 강도(Reasoning Effort): — 모델이 답변을 생성하기 전 내부적으로 논리적 사고 과정을 얼마나 깊고 길게 수행할지 결정하는 제어 파라미터다. 복잡한 수학 문제나 논리 퍼즐을 풀 때는 높게 설정하여 정확도를 높이고 단순 질의응답 시에는 낮게 설정하여 응답 속도를 최적화할 수 있다.

기술

Mistral Small 4
Leanstral
Hugging Face
llm-mistral

활용 사례

범용 AI 에이전트
정형 검증 코드 생성
멀티모달 데이터 처리
비용 효율적 추론 시스템

언급된 리소스

문서Mistral Small 4 on Hugging Face

GitHubllm-mistral plugin

Mistral Small 4 출시: 추론, 멀티모달, 코딩 능력을 통합한 119B MoE 모델

섹션별 상세

용어 해설

기술

활용 사례

언급된 리소스

Mistral Small 4 출시: 추론, 멀티모달, 코딩 능력을 통합한 119B MoE 모델

섹션별 상세

용어 해설

기술

활용 사례

언급된 리소스

관련 토론

댓글

관련 피드

관련 토론

댓글

관련 피드