119B 파라미터와 FP8 지원으로 성능과 효율을 극대화한 Mistral Small 4
다국어 텍스트 생성 및 추론119Bapache-2.0
Mistral 3 아키텍처 기반의 119B 파라미터 규모 고성능 다국어 오픈소스 모델
핵심 역량
- 한국어 포함 다국어 텍스트 생성
- 복잡한 논리적 추론 수행
- vLLM 기반 고속 추론 처리
- FP8 정밀도 기반 효율적 연산
강점
- Apache 2.0 라이선스로 상업적 자유도 확보
- FP8 지원을 통한 추론 가속 및 메모리 절감
- 한국어 포함 20개 이상의 광범위한 다국어 지원
훈련 방식
Mistral 3 아키텍처 기반의 대규모 다국어 데이터셋 사전 학습
알아두면 좋은 것
- 한국어, 일본어, 중국어 등 주요 아시아 언어 공식 지원
- vLLM 추론 엔진 최적화 태그 포함
- Safetensors 포맷 적용으로 보안성 및 로딩 속도 향상
- Mistral 3 세대 기술이 적용된 119B 규모의 모델
337
Likes
57.4k
Downloads
4 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.