본문으로 건너뛰기

TTFT

첫 토큰 생성 시간

사용자의 요청 후 모델이 첫 번째 응답 토큰을 출력할 때까지 걸리는 시간이다. 실시간 서비스의 사용자 경험을 결정짓는 핵심적인 지연 시간 지표이다.

← 용어 사전 전체 보기