본문으로 건너뛰기
AI Trends
피드
트렌딩
커뮤니티
탐색
보관함
로그인
홈
트렌딩
커뮤니티
보관함
프로필
token-latency
토큰 지연
중급
모델이 첫 번째 토큰을 생성하기까지 걸리는 시간. 로컬 환경에서 모델 로딩 및 스와핑 시 성능에 영향을 미친다.
비슷한 개념
ttft
tpot
token-generation
time-to-token
itl
token-throughput
time-per-output-token
streaming-latency
← 용어 사전 전체 보기
