본문으로 건너뛰기
AI Trends
피드
트렌딩
커뮤니티
탐색
보관함
로그인
홈
트렌딩
커뮤니티
보관함
프로필
t-s
초당 토큰 수
입문
LLM이 1초당 생성하는 텍스트의 단위를 의미하며, 모델의 추론 속도를 측정하는 가장 핵심적인 지표이다. 수치가 높을수록 사용자가 체감하는 응답 속도가 빨라진다.
별칭
초당 토큰 수
초당 토큰 생성량
초당 토큰 처리량
초당 토큰 생성 수
비슷한 개념
tokens-per-second
inference-throughput
otps
throughput
token-generation
pp-s
token-throughput
tpot
← 용어 사전 전체 보기
