본문으로 건너뛰기

관련 기사 바로가기

Vidu S1: 음성 제어를 지원하는 소비자 GPU 실시간 대화형 비디오 생성 모델TurboServe: 스트리밍 비디오 생성용 세션 기반 배치·오토스케일링 통합 시스템. 본 논문은 세션 배치와 GPU 오토스케일링을 통합해 최악 지연과 비용을 동시에 낮춘다. 세션 상태 보존과 NCCL 기반 GPU-GPU 마이그레이션을 구현해 온라인 재배치를 가능하게 한다.
← 피드로 돌아가기

TurboServe

Inference Engines (추론 엔진)

약 2개 아티클

관심 태그 추가
관련 태그:NCCLTurboDiffusionVidu S1
TIMEHEADLINE