본문으로 건너뛰기

피드 트렌딩 커뮤니티 공지사항 기술 태그 AI 용어 사전 서비스 소개 문의 운영 정책 개인정보 처리방침

매일 업데이트되는 글로벌 소스의 AI/ML 뉴스를 수집하고 한국어로 요약합니다.

AI Trends·후원

피드 트렌딩 커뮤니티 공지

피드 트렌딩 커뮤니티 공지

추론 효율성 (inference-efficiency) 용어 설명 | AI Trends

inference-efficiency

추론 효율성

입문

모델이 주어진 입력에 대해 답을 생성하는 과정에서 소비하는 시간과 계산 자원의 효율을 의미한다. 사용자 경험 개선과 운영 비용 절감을 위해 필수적인 요소이다.

비슷한 개념

reasoning-efficiency sampling-efficiency inference-cost inference-optimization inference-latency inference-capacity reasoning-budget serving-costs

← 용어 사전 전체 보기