본문으로 건너뛰기

피드 트렌딩 커뮤니티 공지사항 기술 태그 AI 용어 사전 서비스 소개 문의 운영 정책 개인정보 처리방침

매일 업데이트되는 글로벌 소스의 AI/ML 뉴스를 수집하고 한국어로 요약합니다.

AI Trends·후원

피드 트렌딩 커뮤니티 공지

피드 트렌딩 커뮤니티 공지

프리필 지연 시간 (prefill-latency) 용어 설명 | AI Trends

prefill-latency

프리필 지연 시간

중급

사용자의 입력을 모델이 처음 처리하여 첫 번째 토큰을 출력하기까지 걸리는 시간(TTFT)이다. 대화형 AI의 응답 속도를 결정하는 중요한 지표이다.

비슷한 개념

prefill-speed first-token-latency ttft time-to-first-token ttfa time-to-first-audio time-to-token prefill

← 용어 사전 전체 보기