NVIDIA와 Google Cloud, 에이전트 및 물리적 AI를 위한 차세대 AI 하이퍼컴퓨터 확장 발표

섹션별 상세

NVIDIA Vera Rubin 아키텍처 기반의 새로운 A5X 베어메탈 인스턴스는 칩, 시스템, 소프트웨어의 통합 설계를 통해 성능을 극대화했습니다. 이 시스템은 이전 세대와 비교하여 토큰당 추론 비용을 10배 낮추고 메가와트당 토큰 처리량을 10배 높이는 효율성을 달성했습니다. 단일 사이트 클러스터에서 최대 8만 개, 멀티사이트 클러스터에서 최대 96만 개의 Rubin GPU까지 확장 가능한 구조를 갖추고 있습니다.

Google Cloud는 NVIDIA Blackwell GPU를 기반으로 소규모 G4 VM부터 대규모 A4X Max VM까지 폭넓은 포트폴리오를 제공합니다. 사용자는 단일 GPU의 1/8 수준부터 수만 개의 Blackwell GPU가 연결된 NVL72 랙 시스템까지 워크로드 규모에 맞춰 자원을 유연하게 할당할 수 있습니다. OpenAI와 같은 선도적인 AI 연구소들은 이미 이 인프라를 활용해 ChatGPT를 포함한 고부하 추론 워크로드를 처리하고 있습니다.

보안이 중요한 산업군을 위해 Google Distributed Cloud에서 Blackwell GPU 기반의 Gemini 모델 실행을 지원하며 기밀 컴퓨팅 기능을 강화했습니다. NVIDIA 기밀 컴퓨팅 기술은 프롬프트와 파인튜닝 데이터를 암호화된 상태로 유지하여 인프라 운영자조차 데이터에 접근하거나 수정할 수 없도록 보호합니다. 이는 규제 대상 산업의 기업들이 보안 타협 없이 최신 프론티어 모델의 성능을 활용할 수 있는 기반을 제공합니다.

에이전트 AI 구축을 위해 NVIDIA Nemotron 오픈 모델과 NeMo 프레임워크가 Gemini Enterprise Agent Platform에 통합되었습니다. 개발자들은 NVIDIA NeMo RL API를 사용하여 강화학습 학습을 가속화하고 클러스터 크기 조정이나 장애 복구와 같은 인프라 관리를 자동화할 수 있습니다. CrowdStrike와 같은 기업은 이를 활용해 사이버 보안 특화 모델을 파인튜닝하고 위협 탐지 및 대응 속도를 높이고 있습니다.

물리적 AI와 산업용 디지털 트윈 구현을 위해 NVIDIA Omniverse와 Isaac Sim 프레임워크가 Google Cloud 마켓플레이스에서 제공됩니다. 이를 통해 개발자는 실제 배포 전 가상 환경에서 로봇을 훈련하고 검증할 수 있는 물리적으로 정확한 디지털 트윈을 구축할 수 있습니다. NVIDIA Cosmos Reason 2와 같은 모델을 NIM 마이크로서비스 형태로 배포하여 로봇이 인간처럼 세상을 보고 추론하며 행동하게 만드는 것이 가능해졌습니다.

기술

NVIDIA Blackwell
NVIDIA Vera Rubin
NVIDIA Nemotron
NVIDIA NeMo
NVIDIA Omniverse
NVIDIA Isaac Sim
Google Gemini
Google Distributed Cloud

활용 사례

에이전트 기반 워크플로 관리
산업용 디지털 트윈 및 로봇 시뮬레이션
보안이 강화된 기밀 AI 추론
사이버 보안 위협 탐지 및 대응

언급된 리소스

DemoNVIDIA Omniverse on Google Cloud

문서NVIDIA NeMo Framework