계층적 추론 구조를 도입한 1B 파라미터 규모의 베이스 언어 모델
텍스트 생성1Bapache-2.0
계층적 추론(Hierarchical Reasoning) 아키텍처를 적용하여 텍스트 생성 성능을 최적화한 1B 파라미터 규모의 베이스 언어 모델.
핵심 역량
- 텍스트 생성
- 계층적 추론 기반 텍스트 처리
- 도메인 특화 파인튜닝 기초
훈련 방식
계층적 추론(Hierarchical Reasoning) 및 Prefix-LM 아키텍처를 적용한 1B 파라미터 규모의 사전학습(Pre-training) 모델.
알아두면 좋은 것
- 비지시어 튜닝(Non-instruction-tuned) 모델
- 계층적 추론(Hierarchical Reasoning) 아키텍처 적용
- Apache 2.0 라이선스 적용
- 영문(en) 데이터 중심 학습
773
Likes
126.6k
Downloads
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.