본문으로 건너뛰기

피드 트렌딩 커뮤니티 공지사항 기술 태그 AI 용어 사전 서비스 소개 문의 운영 정책 개인정보 처리방침

매일 업데이트되는 글로벌 소스의 AI/ML 뉴스를 수집하고 한국어로 요약합니다.

AI Trends·후원

피드 트렌딩 커뮤니티 공지

피드 트렌딩 커뮤니티 공지

복원 지연 시간 (decode-latency) 용어 설명 | AI Trends

decode-latency

복원 지연 시간

중급

압축된 데이터를 원래의 형태로 되돌리는 데 걸리는 시간이다. LLM 기반 압축에서는 모델 추론 시간이 이 지연 시간의 대부분을 차지하여 실시간 성능을 저해한다.

비슷한 개념

latency lossy-compression streaming-latency latency-variance autocompact inference-latency semantic-compression compile-time-optimization

← 용어 사전 전체 보기