Amazon SageMaker JumpStart, 유스케이스 기반 최적화 배포 기능 출시

Amazon SageMaker JumpStart는 사용자가 AI 워크로드를 더 효율적으로 운영할 수 있도록 유스케이스 기반의 최적화 배포 기능을 도입했습니다. 기존의 일반적인 동시 사용자 수 기반 설정에서 벗어나, 콘텐츠 생성, 요약, 실시간 대화 등 구체적인 작업 유형에 맞춘 사전 정의된 구성을 제공합니다. 사용자는 비용 최적화, 처리량 최적화, 지연시간 최적화 중 우선순위를 선택할 수 있으며, 선택에 따라 예상 TTFT 및 토큰 처리량 수치를 즉시 확인할 수 있습니다. 이 기능은 Llama 3.2, Mistral, Qwen 등 주요 오픈 소스 모델들을 지원하며 복잡한 인프라 설정 없이도 프로덕션 환경에 적합한 엔드포인트를 구축할 수 있게 합니다.