본문으로 건너뛰기

The Batch: Nvidia의 초고속 오픈소스 모델과 OpenAI-Amazon의 에이전트 인프라 협력

Nvidia의 고성능 오픈소스 모델 Nemotron 3 출시, OpenAI와 Amazon의 에이전트 상태 관리 인프라 협력, xAI의 가성비 영상 생성 모델 등 최신 AI 기술 동향을 다룹니다.

섹션별 상세

01
Nvidia는 Mamba-2와 Transformer, MoE를 결합한 하이브리드 아키텍처의 Nemotron 3 Super 120B-A12B 모델을 출시했다. 이 모델은 NVFP4 4비트 부동 소수점 형식을 학습 단계부터 적용하여 추론 속도를 극대화했으며, 초당 442개 토큰을 생성하는 압도적인 성능을 기록했다. 100만 토큰의 컨텍스트 윈도우를 지원하며 에이전트 작업 벤치마크인 PinchBench에서 기존 대형 모델들을 능가하는 효율성을 보여주었다. 하드웨어 제조사가 직접 모델 아키텍처를 최적화함으로써 소프트웨어와 하드웨어의 결합이 가져오는 성능 이점을 증명했다.
Nemotron 3 모델의 정확도와 처리량을 타 모델과 비교한 벤치마크 차트입니다.
ChartNemotron 3 Super 120B 모델이 수학, 코딩, 도구 사용 등 다양한 지표에서 경쟁 모델인 Qwen3.5 및 GPT-OSS와 대등하거나 우수한 성능을 보임을 나타냅니다. 특히 오른쪽의 Throughput 차트에서 타 모델 대비 압도적인 토큰 생성 속도를 시각적으로 확인할 수 있습니다.
02
OpenAI와 Amazon은 에이전트의 작업 상태와 메모리를 유지하는 'Stateful Runtime Environment'를 AWS Bedrock에 구축하는 파트너십을 체결했다. 기존의 상태 비저장(Stateless) API와 달리, 이 환경은 에이전트가 복잡한 다단계 워크플로를 수행할 때 중간 과정을 기억하고 도구 연결 및 권한을 관리할 수 있게 돕는다. Amazon은 OpenAI에 총 500억 달러 규모의 투자를 약속했으며, OpenAI는 Amazon의 Trainium 칩을 대규모로 도입하여 인프라를 다각화한다. 이는 Microsoft와의 긴밀한 관계가 완화되고 클라우드 시장의 경쟁 구도가 재편되고 있음을 시사한다.
03
xAI가 출시한 Grok Imagine 1.0은 텍스트와 이미지를 기반으로 최대 15초 분량의 고품질 영상을 생성하며 벤치마크 1위를 차지했다. Artificial Analysis Video Arena에서 Runway Gen-4.5와 Google Veo 3.1을 제치고 텍스트 및 이미지 기반 영상 생성 부문에서 모두 선두에 올랐다. 특히 분당 4.20달러라는 가격은 OpenAI Sora 2 Pro의 30달러 대비 7배 이상 저렴하여 실무자들의 반복적인 실험 비용을 획기적으로 낮췄다. 영상 생성 기술이 단순한 신기함을 넘어 실제 프로덕션에서 활용 가능한 경제성을 갖추기 시작했음을 보여준다.
04
MIT 연구진은 긴 문서를 외부 Python 환경의 변수로 처리하고 모델이 코드를 작성해 필요한 부분만 호출하는 Recursive Language Models(RLM) 기법을 개발했다. 모델이 전체 컨텍스트를 한 번에 읽는 대신, 작업을 하위 작업으로 분할하고 스스로를 재귀적으로 호출하여 각 섹션을 처리한 뒤 결과를 취합하는 방식이다. 실험 결과 GPT-5 기반 RLM 시스템은 100만 토큰 이상의 컨텍스트에서도 기존 모델이 실패한 복잡한 추론 작업을 50% 이상의 정확도로 수행했다. 이는 모델의 컨텍스트 윈도우 크기에 의존하지 않고도 방대한 데이터를 정밀하게 처리할 수 있는 새로운 설계 패턴을 제시한다.
GPT-5와 RLM 적용 모델의 컨텍스트 길이에 따른 성능 변화를 보여주는 그래프입니다.
Chart상단 그래프에서 일반 GPT-5는 컨텍스트가 길어질수록 성능이 급격히 하락하지만, 하단 그래프의 RLM 적용 모델은 100만 토큰(1M) 영역에서도 성능을 안정적으로 유지함을 보여줍니다. 이는 외부 변수 관리 방식이 긴 문맥 처리의 한계를 극복하는 데 효과적임을 입증하는 핵심 근거입니다.

기술

  • Nemotron 3
  • AWS Bedrock
  • Grok Imagine 1.0
  • Mamba-2
  • GPT-5
  • Trainium

활용 사례

  • 자율형 코딩 에이전트
  • 대규모 문서 분석 시스템
  • 저비용 고품질 영상 콘텐츠 제작
  • 엔터프라이즈급 에이전트 워크플로 관리
AI 분석 전체 내용 보기

AI 요약 · 북마크 · 개인 피드 설정 — 무료

출처 · 인용 안내

원문 발행 2026. 03. 27.수집 2026. 03. 29.출처 타입 RSS

인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.