inference-scale

모델이 실제 서비스에서 대규모 사용자 요청을 처리하는 단계를 의미한다. 이때 발생하는 비용 구조가 AI 기업의 장기적인 수익성과 시장 지배력을 결정한다.