추론 운영체제
AI 모델의 추론 실행을 최적화하기 위해 설계된 전용 소프트웨어 계층이다. 하드웨어 자원 할당, 모델 스케줄링, 지연 시간 관리 등을 전담하여 대규모 AI 서비스의 효율성을 극대화한다.