TPF

Tokens Per Forward pass의 약자로, 하드웨어 독립적인 토큰 디코딩 효율 지표입니다. 모델의 추론 성능을 비교할 때 사용됩니다.