멀티테넌트 가속 컴퓨팅 (multi-tenant-accelerated-computing) 용어 설명 | AI Trends
multi-tenant-accelerated-computing
멀티테넌트 가속 컴퓨팅
중급
멀티테넌트 가속 컴퓨팅은 단일 물리 인프라에서 다수의 고객이 GPU·가속기 자원을 시간 단위로 분할해 사용하는 방식으로, 빠른 가동과 높은 이용률을 통해 토큰 기반 워크로드의 비용 구조를 맞추는 핵심 운영 모델이다. 전력·냉각·네트워크 설계와 스케줄링이 효율성에 직접 영향을 미친다.