Tencent Hy-MT2-1.8B 모델을 로컬에서 실행하는 GGUF 버전
텍스트 생성 및 대화1.8B
Tencent의 1.8B 파라미터 경량 언어 모델인 Hy-MT2-1.8B를 GGUF 형식으로 양자화하여 로컬 환경에서 효율적으로 실행할 수 있도록 최적화한 모델.
핵심 역량
- 텍스트 생성
- 대화형 인터페이스
- 로컬 추론
강점
- 1.8B 파라미터로 인한 낮은 VRAM 요구량
- GGUF 포맷을 통한 다양한 하드웨어에서의 범용적 실행 가능성
훈련 방식
Tencent Hy-MT2-1.8B 베이스 모델을 GGUF 형식으로 양자화
알아두면 좋은 것
- GGUF 형식으로 llama.cpp와 호환
- 1.8B 파라미터의 경량 모델로 저사양 환경에 최적화
- Tencent의 Hy-MT2-1.8B 베이스 모델 기반
72
Likes
16.2k
Downloads
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.