4B 파라미터로 구현한 강력한 에이전트 기능과 수학 추론 성능
텍스트 생성 및 대화형 AI4Bother
NVIDIA가 자체 구축한 방대한 데이터셋과 강화학습 기법을 적용하여 에이전트 및 추론 성능을 극대화한 4B 규모의 소형 언어 모델이다.
핵심 역량
- 멀티턴 대화 수행
- 수학적 증명 및 문제 풀이
- 에이전트 기반 도구 사용
- 구조화된 데이터 출력
- 복잡한 프로그래밍 코드 생성
강점
- 4B 체급 대비 우수한 수학 및 코딩 성능
- 강화학습 기반의 정교한 도구 사용 능력
- 구조화된 데이터 출력의 높은 정확도
훈련 방식
Nemotron-Nano-9B-v2 기반 아키텍처에 SFT 및 RLHF를 적용하고 NVIDIA 전용 에이전트 및 수학 데이터셋으로 추가 학습
알아두면 좋은 것
- NVIDIA Nemotron 전용 데이터셋(CC-v2, Science-v1 등) 대량 활용
- 강화학습(RL)을 통한 지시 이행 및 에이전트 성능 강화
- BF16 정밀도 지원으로 효율적인 추론 가능
- NVIDIA 고유 라이선스 적용
54
Likes
28.7k
Downloads
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.