본문으로 건너뛰기
AI Trends
피드
트렌딩
커뮤니티
탐색
보관함
로그인
홈
트렌딩
커뮤니티
보관함
프로필
ttft
첫 토큰 생성 시간
중급
사용자의 요청 후 모델이 첫 번째 응답 토큰을 출력할 때까지 걸리는 시간이다. 실시간 서비스의 사용자 경험을 결정짓는 핵심적인 지연 시간 지표이다.
별칭
첫 번째 토큰 생성 시간
첫 번째 토큰 지연 시간
비슷한 개념
time-to-token
time-to-first-token
token-generation
tpot
api-latency
ttfs
decode-speed
ttfa
← 용어 사전 전체 보기
