1.25bit로 압축된 1.8B 규모의 초경량 다국어 번역 모델
다국어 기계 번역1.8B
Tencent의 HY-MT1.5 1.8B 모델을 1.25bit로 극단적으로 양자화하여 모바일 및 엣지 환경에서 효율적인 다국어 번역을 수행하도록 최적화한 모델이다.
핵심 역량
- 다국어 텍스트 번역
- 저사양 하드웨어에서의 추론
- 메모리 효율적 모델 로딩
강점
- 1.25bit 양자화를 통한 동급 모델 대비 압도적인 메모리 절감
- 1.8B 규모의 파라미터를 유지하면서도 엣지 디바이스 실행 가능
훈련 방식
Tencent HY-MT1.5 1.8B 기반으로 1.25bit 양자화 기법을 적용하여 다국어 번역 성능을 유지하면서 효율성을 극대화함
알아두면 좋은 것
- Tencent HY-MT1.5 1.8B 모델을 기반으로 구축됨
- 1.25bit 양자화가 적용되어 극도로 낮은 메모리 점유율을 가짐
- Hunyuan_v1_dense 아키텍처 기반의 고밀도 번역 성능 지향
- Safetensors 형식을 사용하여 안전한 모델 가중치 로드 지원
177
Likes
17.5k
Downloads
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.