token-per-second

언어 모델이 1초당 생성하는 텍스트 단위(토큰)의 개수로, 모델의 추론 속도를 나타내는 주요 지표이다.