본문으로 건너뛰기

tokens-per-parameter

파라미터당 토큰 수

학습 데이터 토큰 수를 모델 파라미터 수로 나눈 비율이다. 모델 크기와 데이터 규모의 균형을 비교하는 지표이며, 작업 유형에 따라 최적값이 달라질 수 있다.