Transformer와 SSM의 결합으로 효율성을 극대화한 7B 규모의 하이브리드 언어 모델
텍스트 생성 및 언어 모델링7Bapache-2.0
Attention과 SSM을 결합하여 추론 효율과 성능을 최적화한 7B 규모의 하이브리드 오픈소스 언어 모델이다.
핵심 역량
- 7B 파라미터 규모의 하이브리드 연산 아키텍처
- Apache 2.0 라이선스 기반의 자유로운 상업적 이용
- Safetensors 포맷을 통한 보안 강화 가중치 제공
- 16,395회의 다운로드로 입증된 커뮤니티 신뢰도
알아두면 좋은 것
- AI2(Allen Institute for AI)에서 개발한 OLMo 시리즈의 하이브리드 아키텍처 모델
- Apache-2.0 라이선스 채택으로 연구 및 상용화 제약 제거
- Transformers 라이브러리와의 완전한 호환성 확보
- 16,000회 이상의 다운로드를 기록한 검증된 오픈소스 모델
44
Likes
18.7k
Downloads
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.