본문으로 건너뛰기

token-generation

토큰 생성 속도

중급

모델이 답변을 한 글자(토큰)씩 생성해내는 속도이다. 실제 사용자가 화면에서 답변이 출력되는 속도를 체감하는 지표이다.

별칭

초당 토큰 생성량
← 용어 사전 전체 보기