NVIDIA가 AI 커뮤니티를 위해 오픈 데이터를 구축하는 방법

섹션별 상세

NVIDIA는 AI 개발의 최대 병목인 데이터 구축 비용과 시간을 줄이기 위해 180개 이상의 데이터셋과 650개 이상의 오픈 모델을 공개했다. 현재까지 2PB 이상의 데이터를 공유했으며 이는 로보틱스, 자율 주행, 생물학 등 실제 산업 현장에서 즉시 활용 가능한 수준의 품질을 갖추고 있다.

Physical AI 컬렉션은 로보틱스와 자율 주행 연구를 위해 50만 개 이상의 로봇 궤적과 15TB의 멀티모달 데이터를 포함한다. 이 데이터는 NVIDIA GR00T 모델 개발에 사용되었으며 Runway와 같은 기업들이 이를 활용해 세계 모델을 구축하는 등 실질적인 성과로 이어지고 있다.

Nemotron Personas 컬렉션은 실제 인구 통계 분포를 반영한 대규모 합성 페르소나 데이터셋으로 주권 AI 개발을 지원한다. 일본, 인도, 브라질 등 지역별 특화 데이터를 통해 CrowdStrike는 자연어-쿼리 변환 정확도를 50.7%에서 90.4%로 향상시켰고 일본 NTT Data는 법률 QA 정확도를 79.3%까지 끌어올렸다.

Nemotron 모델의 성능 향상을 위해 데이터셋은 일반 웹 코퍼스에서 수학, 코드, STEM 등 고신호 도메인 중심으로 진화했다. Nemotron-CC-Math, Nemotron-CC-Code 등 특화 데이터셋은 모델의 추론 능력을 강화하며 CLIMB 알고리즘을 적용한 Nemotron-ClimbMix는 H100 컴퓨팅 시간을 약 33% 절감하는 효율성을 입증했다.

포스트 트레이닝 단계에서는 다국어 다양성과 구조화된 추론 감독을 강조하는 데이터셋을 활용한다. Nemotron-Agentic 및 Nemotron-RL 데이터셋은 에이전트의 다단계 계획 수립과 도구 사용 능력을 학습시키며 이는 ServiceNow의 Apriel 모델이 15B 파라미터 규모에서 Gemini 2.5 Flash를 능가하는 기반이 되었다.

용어 해설

주권 AI(Sovereign AI): — 국가나 조직이 자체 데이터와 인프라를 사용하여 독립적으로 구축하고 운영하는 AI 시스템이다. 데이터 보안과 문화적 맥락 유지가 핵심이며 국가적 차원의 기술 자립을 목표로 한다.
투기적 디코딩(Speculative Decoding): — 작은 모델이 먼저 토큰을 생성하고 큰 모델이 이를 검증하는 방식으로 LLM의 추론 속도를 높이는 최적화 기법이다. 전체적인 연산량을 줄이면서도 결과의 품질을 유지하는 데 중요하다.
합성 데이터(Synthetic Data): — 실제 세계에서 수집된 것이 아니라 AI 모델이나 알고리즘을 통해 인위적으로 생성된 데이터이다. 개인정보 보호 문제를 피하고 부족한 학습 데이터를 보완하는 데 필수적인 역할을 한다.
세계 모델(World Model): — 물리적 세계의 작동 원리와 인과 관계를 이해하고 예측할 수 있도록 설계된 AI 모델이다. 주로 로보틱스와 자율 주행 분야에서 에이전트가 환경을 시뮬레이션하고 판단하는 기초가 된다.
정규화된 할인 누적 이득(NDCG): — 검색 결과의 순위와 관련성을 동시에 고려하여 평가하는 지표이다. 상위 결과에 관련성 높은 항목이 포함될수록 높은 점수를 부여하며 검색 및 추천 시스템의 성능 측정에 널리 쓰인다.

기술

NVIDIA GR00T
Nemotron-CC
CLIMB Algorithm
SPEED-Bench
La Proteina

활용 사례

로봇 제어 모델 학습
지역 특화 합성 페르소나 생성
생물학적 단백질 구조 모델링
RAG 시스템 평가 및 임베딩 최적화

언급된 리소스

문서NVIDIA Open Datasets on Hugging Face

GitHubNVIDIA Training Recipes on GitHub