Inference Cost

AI 모델이 사용자의 질문에 답변을 생성할 때 발생하는 컴퓨팅 자원 비용으로 모델의 크기와 생각의 깊이에 비례하여 증가한다.