chinchilla-optimality

DeepMind의 연구에서 제시된 개념으로, 주어진 연산 예산(FLOPs) 내에서 모델 파라미터 수와 학습 데이터 토큰 수 사이의 최적의 균형을 의미한다.