Inference Workload

학습된 AI 모델을 실제 서비스에 적용하여 결과를 도출하는 과정에서 발생하는 작업 부하를 의미하며, 실시간성 여부에 따라 온라인과 오프라인으로 나뉜다.