container-orchestration
컨테이너화된 애플리케이션의 배포, 관리, 확장을 자동화하는 시스템이다. vLLM Playground는 이를 통해 다양한 환경에서 일관된 실행을 보장한다.
vLLM 서버 구축이 어려우셨나요? 클릭 한 번으로 끝내는 vLLM Playground