Mistral Medium 3.5 공개, 128B 파라미터와 FP8 최적화로 강력한 추론 성능 제공
텍스트 생성 및 다국어 추론128B128K 컨텍스트other
Mistral AI의 Mistral 3 아키텍처 기반 128B 모델로, 128K 컨텍스트와 FP8 양자화를 통해 고성능 멀티링구얼 추론을 지원한다.
핵심 역량
- 다국어 텍스트 생성
- 복잡한 논리 추론
- 대규모 문서 분석
- 멀티턴 대화 수행
- 코드 이해 및 생성
강점
- 128B 규모의 강력한 추론 성능
- FP8 적용으로 고성능 하드웨어에서의 추론 가속
- 한국어 포함 광범위한 다국어 대응 능력
훈련 방식
Mistral 3 아키텍처 기반 사전 학습 모델에 FP8 양자화 적용
알아두면 좋은 것
- 한국어를 포함한 30개 이상의 다국어 지원
- 128K 토큰의 긴 컨텍스트 윈도우 제공
- FP8 양자화 적용으로 메모리 효율성 증대
- vLLM 추론 엔진 최적화 지원
317
Likes
43.1k
Downloads
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.