SambaNova와 SCX, 호주 최초의 주권형 AI 추론 클라우드 구축을 위한 파트너십 체결

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

SambaNova와 Southern Cross AI(SCX)가 협력하여 호주 최초의 고성능 주권형(Sovereign) AI 추론 클라우드를 구축한다. 이 클라우드는 SambaNova의 가속기 기술을 활용하여 호주 내 데이터 보관 및 보안 요구사항을 충족하며, 호주 특유의 경제 환경과 문화를 이해하는 AI 솔루션을 제공하는 것을 목표로 한다. 특히 호주 문화와 소통 방식에 최적화된 LLM인 'Project Magpie'를 통해 현지 맞춤형 AI 혁신을 가속화할 예정이다. 이번 파트너십은 에너지 효율적인 하드웨어를 바탕으로 지속 가능한 AI 인프라를 호주 및 ASEAN 시장으로 확대하는 중요한 발판이 된다.

배경

AI 주권(Sovereign AI)의 개념, LLM 파인튜닝 및 추론 인프라에 대한 기본 이해, 데이터 온쇼어링(Onshoring) 및 보안 규제 지식

대상 독자

호주 및 ASEAN 지역의 AI 인프라 도입 결정권자, 데이터 주권이 중요한 기업 보안 담당자, 현지화된 AI 모델을 개발하려는 개발자

의미 / 영향

호주가 독자적인 AI 주권을 확보함으로써 글로벌 모델에 대한 의존도를 낮추고 현지 특화된 AI 산업을 육성할 수 있는 기반을 마련했다. 또한 저전력 고효율 하드웨어를 통한 지속 가능한 AI 인프라 모델의 실효성을 입증하여 향후 ASEAN 지역으로의 기술 확산 가능성을 높였다.

섹션별 상세

SambaNova와 SCX는 호주 최초의 고성능 주권형 추론 클라우드 구축을 위해 파트너십을 체결했다. 이 인프라는 SambaNova의 재구성 가능한 데이터플로우 유닛(RDU)을 기반으로 하며, 랙당 평균 10kW의 낮은 전력 소비로 높은 에너지 효율성을 달성한다. 이를 통해 호주 기업들은 데이터를 해외로 전송하지 않고 국내에서 안전하게 처리하며 고성능 AI 추론 기능을 이용할 수 있게 된다.

SCX는 호주 고유의 문화적 맥락과 소통 방식을 반영한 최초의 현지화 LLM인 'Project Magpie'를 출시한다. 이 모델은 처음부터 새로 학습시키는 대신 오픈 소스 모델의 추론 레이어를 추출하여 호주식 사고방식에 맞게 파인튜닝하는 방식을 채택했다. 이를 통해 세계적 수준의 AI 성능을 유지하면서도 호주 사용자들에게 더 친숙하고 정확한 응답을 제공한다.

주권형 AI 인프라는 데이터 프라이버시와 규제 준수를 위해 호주 내에서 데이터를 관리하는 것을 핵심으로 한다. SCX 플랫폼은 DeepSeek와 같은 오픈 소스 모델을 호주 온쇼어(Onshore) 환경에서 배포하여 데이터가 국외로 유출되지 않도록 보장한다. 이는 보안에 민감한 정부 기관이나 기업들이 안심하고 AI를 도입할 수 있는 환경을 조성한다.

호주의 넷제로(Net-zero) 목표에 부합하기 위해 SambaNova의 효율적인 하드웨어를 기존 데이터 센터 시설과 결합하는 'AI 팩토리' 모델을 도입했다. 대규모 설비 개조 없이 기존 인프라를 활용함으로써 구축 비용을 최소화하고 탄소 배출량을 관리한다. 효율적인 컴퓨팅 자원은 지속 가능한 규모 확장을 위한 필수 요소로 작용한다.

SCX는 호주 전역의 기존 데이터 센터를 활용해 추론 용량을 확장하고, 향후 AI 수요가 급증하는 ASEAN 시장으로의 진출을 계획하고 있다. 또한 올해 개발자 프로그램을 런칭하여 현지 개발자들에게 인프라 접근권과 교육 세션을 제공함으로써 호주의 AI 생태계 활성화를 지원한다.

실무 Takeaway

호주 내 데이터 주권이 중요한 기업은 SCX의 주권형 클라우드를 활용해 데이터를 국내에 유지하면서 고성능 AI 추론을 수행하여 보안 규제를 준수할 수 있다.
Project Magpie 사례처럼 오픈 소스 모델의 추론 레이어를 추출해 특정 문화권에 맞게 파인튜닝하면 비용 효율적으로 현지화된 고성능 LLM을 구축할 수 있다.
SambaNova의 RDU 기술을 적용해 랙당 10kW 수준의 저전력 고효율 인프라를 구축함으로써 운영 비용 절감과 탄소 중립 목표를 동시에 달성할 수 있다.

언급된 리소스

문서SambaNova & Southern Cross AI Solution Page