본문으로 건너뛰기

watts-per-token

와트당 토큰

중급

하나의 토큰을 생성하는 데 소비되는 전력량을 나타내는 지표로, 모델의 추론 속도뿐만 아니라 실제 운영 비용과 에너지 효율성을 평가하는 핵심 척도이다.