SambaNova와 SCX, 호주 최초의 주권형 AI 추론 클라우드 구축을 위한 파트너십 체결

섹션별 상세

SambaNova와 SCX는 호주 최초의 고성능 주권형 추론 클라우드 구축을 위해 파트너십을 체결했다. 이 인프라는 SambaNova의 재구성 가능한 데이터플로우 유닛(RDU)을 기반으로 하며, 랙당 평균 10kW의 낮은 전력 소비로 높은 에너지 효율성을 달성한다. 이를 통해 호주 기업들은 데이터를 해외로 전송하지 않고 국내에서 안전하게 처리하며 고성능 AI 추론 기능을 이용할 수 있게 된다.

SCX는 호주 고유의 문화적 맥락과 소통 방식을 반영한 최초의 현지화 LLM인 'Project Magpie'를 출시한다. 이 모델은 처음부터 새로 학습시키는 대신 오픈 소스 모델의 추론 레이어를 추출하여 호주식 사고방식에 맞게 파인튜닝하는 방식을 채택했다. 이를 통해 세계적 수준의 AI 성능을 유지하면서도 호주 사용자들에게 더 친숙하고 정확한 응답을 제공한다.

주권형 AI 인프라는 데이터 프라이버시와 규제 준수를 위해 호주 내에서 데이터를 관리하는 것을 핵심으로 한다. SCX 플랫폼은 DeepSeek와 같은 오픈 소스 모델을 호주 온쇼어(Onshore) 환경에서 배포하여 데이터가 국외로 유출되지 않도록 보장한다. 이는 보안에 민감한 정부 기관이나 기업들이 안심하고 AI를 도입할 수 있는 환경을 조성한다.

호주의 넷제로(Net-zero) 목표에 부합하기 위해 SambaNova의 효율적인 하드웨어를 기존 데이터 센터 시설과 결합하는 'AI 팩토리' 모델을 도입했다. 대규모 설비 개조 없이 기존 인프라를 활용함으로써 구축 비용을 최소화하고 탄소 배출량을 관리한다. 효율적인 컴퓨팅 자원은 지속 가능한 규모 확장을 위한 필수 요소로 작용한다.

SCX는 호주 전역의 기존 데이터 센터를 활용해 추론 용량을 확장하고, 향후 AI 수요가 급증하는 ASEAN 시장으로의 진출을 계획하고 있다. 또한 올해 개발자 프로그램을 런칭하여 현지 개발자들에게 인프라 접근권과 교육 세션을 제공함으로써 호주의 AI 생태계 활성화를 지원한다.

용어 해설

주권형 AI(Sovereign AI): — 국가나 지역의 데이터를 해당 영토 내에서 관리하고 통제하며, 현지의 법규, 가치관, 문화를 반영하는 AI 기술 및 인프라 체계이다. 데이터 안보를 보장하고 특정 글로벌 기업에 대한 기술 의존도를 낮추어 국가적 차원의 AI 자립을 가능하게 한다.
추론 클라우드(Inference Cloud): — 학습이 완료된 AI 모델을 실행하여 실제 사용자 요청에 대한 응답을 생성(추론)하는 작업에 최적화된 클라우드 서비스이다. 대규모 모델을 실시간으로 구동하기 위한 고성능 연산 자원과 낮은 지연 시간을 제공하는 것이 핵심이다.
재구성 가능한 데이터플로우 유닛(RDU): — SambaNova가 개발한 AI 전용 가속기로, 데이터의 흐름(Dataflow)에 맞춰 하드웨어 구성을 유연하게 최적화할 수 있는 아키텍처를 가진다. 기존 GPU 대비 전력 효율이 높고 대규모 모델 추론 시 병목 현상을 줄여 성능을 극대화한다.
미세 조정(Fine-tuning): — 이미 대량의 데이터로 학습된 사전 학습 모델(Pre-trained Model)을 특정 도메인이나 언어, 문화적 맥락에 맞는 소규모 데이터셋으로 추가 학습시키는 기법이다. 적은 비용으로 범용 모델을 특정 목적에 최적화된 전문가 모델로 변환할 수 있다.
에이전트 AI(Agentic AI): — 단순한 질의응답을 넘어 사용자의 목표를 달성하기 위해 스스로 계획을 수립하고, 외부 도구를 사용하며, 복잡한 워크플로를 자율적으로 수행하는 AI 시스템이다. 데이터 정제, 의사결정 지원, 업무 자동화 등 실질적인 비즈니스 프로세스에 적용된다.

기술

SambaNova RDU
Project Magpie
DeepSeek
Open-source LLMs

활용 사례

주권형 AI 서비스 구축
호주 문화 특화 챗봇 및 가상 비서
에이전트 AI 워크플로 자동화
데이터 정제 및 의사결정 지원 시스템

언급된 리소스

문서SambaNova & Southern Cross AI Solution Page