본문으로 건너뛰기
AI Trends
피드
트렌딩
커뮤니티
탐색
보관함
로그인
홈
트렌딩
커뮤니티
보관함
프로필
관련 기사 바로가기
TurboServe: 스트리밍 비디오 생성용 세션 기반 배치·오토스케일링 통합 시스템. 본 논문은 세션 배치와 GPU 오토스케일링을 통합해 최악 지연과 비용을 동시에 낮춘다. 세션 상태 보존과 NCCL 기반 GPU-GPU 마이그레이션을 구현해 온라인 재배치를 가능하게 한다.
← 피드로 돌아가기
TurboServe
Products (AI 제품)
약 1개 아티클
관련 태그:
NCCL