섹션별 상세
엔비디아와 메타는 차세대 Blackwell 및 Rubin GPU와 함께 Grace CPU를 대규모로 도입하는 파트너십 확대를 발표했다. 메타는 2025년 말까지 총 130만 개의 GPU를 확보할 계획이며, 이번 계약을 통해 하이퍼스케일 데이터 센터를 학습과 추론 모두에 최적화된 구조로 구축할 예정이다.
메타는 엔비디아의 Grace CPU를 번들이 아닌 독립형(Stand-alone) 칩으로 대량 구매하는 최초의 주요 고객사가 되었다. 이는 기존의 클라우드 애플리케이션처럼 일반적인 목적의 연산을 수행하면서도 GPU와 긴밀히 상호작용해야 하는 에이전트형 AI 소프트웨어의 수요가 증가했기 때문이다.
에이전트형 AI의 부상은 데이터 센터 내 CPU 수요를 가속화하고 있으며, GPU가 생성하는 페타바이트급 데이터를 관리하기 위해 수만 개의 CPU가 병목 현상 없이 작동해야 한다. 엔비디아는 이를 위해 칩 간 연결 기술을 포함한 종합 컴퓨팅(Soup-to-nuts) 접근 방식을 강조하며 시장 지배력을 공고히 하고 있다.
엔비디아는 추론 시장에서의 경쟁력을 높이기 위해 저지연 AI 컴퓨팅 스타트업인 Groq의 기술을 200억 달러에 라이선싱하고 핵심 인력을 영입했다. 이는 엔비디아 비즈니스의 약 40%를 차지하는 추론 분야에서 고성능·저비용 솔루션을 제공하여 자체 칩을 개발하는 빅테크들과 차별화하려는 전략이다.
OpenAI, 마이크로소프트, 구글 등 주요 AI 기업들은 엔비디아 의존도를 낮추기 위해 AMD, Cerebras와 협력하거나 자체 TPU 및 커스텀 칩 개발에 박차를 가하고 있다. OpenAI는 최근 Cerebras와 100억 달러 규모의 저지연 컴퓨팅 계약을 체결했으며, AMD로부터 수년간 대규모 칩을 구매하기로 합의하는 등 공급망 다변화를 꾀하고 있다.
용어 해설
- 에이전트형 AI(Agentic AI)
- — 단순한 텍스트 생성을 넘어 스스로 목표를 설정하고 도구를 사용하며 복잡한 작업을 수행하는 AI 시스템이다. 일반적인 클라우드 애플리케이션과 유사한 연산 특성을 가져 데이터 센터 내 CPU에 새로운 성능 요구사항을 제시한다.
- 추론(Inference)
- — 학습된 모델을 실제 서비스에 적용하여 결과를 도출하는 과정이다. AI 시장이 모델 개발 단계에서 실제 서비스 운영 단계로 넘어가면서, 저비용·고효율 추론 최적화가 하드웨어 설계의 핵심 과제로 부상했다.
- 저지연(Low Latency)
- — 데이터가 입력되어 결과가 출력되기까지의 지연 시간을 최소화하는 기술적 특성이다. 실시간 상호작용이 필수적인 에이전트형 AI 서비스에서 사용자 경험을 결정짓는 가장 중요한 성능 지표 중 하나다.
- 블랙웰(Blackwell)
- — 엔비디아의 차세대 GPU 아키텍처로, 대규모 언어 모델의 학습과 추론 성능을 획기적으로 높이도록 설계되었다. 메타를 포함한 주요 빅테크 기업들이 대규모 데이터 센터 구축을 위해 도입하고 있는 핵심 칩이다.
- 그레이스 CPU(Grace CPU)
- — 엔비디아가 설계한 Arm 기반의 데이터 센터용 프로세서다. GPU와의 초고속 데이터 전송을 지원하며, 에이전트형 AI 구동 시 발생하는 일반 연산 부하를 효율적으로 처리하기 위해 독립형 칩으로도 공급된다.
기술
- Nvidia Blackwell
- Nvidia Rubin
- Grace CPU
- Groq LPU
- AMD MI300X
- Cerebras WSE
활용 사례
- 하이퍼스케일 데이터 센터 구축
- 에이전트형 AI 서비스 운영
- 저지연 실시간 AI 추론 시스템
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 02. 19.수집 2026. 02. 21.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.