바이트 수준 시뮬레이션을 통한 서브워드 토크나이제이션의 학습 이점 분리 및 언어 모델 학습 영향 분석

LLMs에서 서브워드 토크나이제이션의 이점은 부분적으로만 이해되어 왔다. 본 연구는 바이트 수준 프리트레이닝 파이프라인에 서브워드 토크나이제이션의 효과를 하나씩 격리하여, 샘플 throughput, 어휘 규모, 경계의 구조적 인덕티브 바이어스가 실제 성능에 어떻게 작용하는지 정량화한다. 이를 통해 바이트-레벨과 서브워드 기반 모델 간 성능 차이를 설명하고, 향후 바이트/서브워드 양자 간 학습 전략을 설계하는 근거를 제공합니다.

출발점: 서브워드 토크나이제이션은 어휘 규모 확장과 시퀀스 축소를 동시에 야기하며, 임베딩 파라미터 증가와 정보 밀도 변화로 성능에 기여한다. 바이트 수준 모델은 연산 비용을 맞추기 위해 입력을 더 작은 단위로 처리하지만, 서브워드의 경계와 구조적 priors가 학습을 더 쉽게 만드는 효과를 제공한다. 해결 원리: 본 연구는 바이트 수준 프리트레이닝에 서브워드 토크나이제이션의 효과를 하나씩 주입/제거하는 가설적 실험을 설계하여, 샘플 throughput 증가, 경계 priors, 거리 인덕티브 바이어스 등 각각의 영향을 정량화한다. 달라지는 점: 결과적으로 Hypotheses 2, 3, 4가 가장 뚜렷한 기여를 보였고, Hypotheses 5–7의 효과는 규모에 따라 약하거나 미미하다고 판단된다. 시사점: 서브워드 경계의 priors를 활용하면 바이트-레벨 모델의 학습 효율성과 표현력을 크게 개선할 수 있으며, 어휘 규모 확장은 부분적으로만 기여한다. 또한 경계 정보의 활용 방식에 따라 인덕티브 바이어스의 효과가 달라진다.

전체 접근 방식: 1.7B 매개변수의 바이트 수준 LLM(노드: LLaMA-3 기반)에서 서브워드 토크나이제이션의 효과를 하나씩 재현하기 위해 여러 입력/출력 변형을 적용하고, 각 변형의 영향력을 동일한 비트-당-바이트 손실로 비교한다. 실험은 fineweb-edu 데이터셋을 UTF-8 바이트로 토큰화하고, LLaMA-3의 BPE 토크나이저를 사용해 바이트 수준에서도 서브워드 경계 정보를 도입한다. 하이퍼파라미터는 Appendix A의 세부를 따르되, 비교 대상 간 변동은 계산 비용을 거의 증가시키지 않도록 최소화한다.

주요 벤치마크 결과: 5.1에서 입력 어휘 파라미터 확장은 성능에 미세한 상승만을 가져와 바이트-레벨과 서브워드 모델 간의 큰 격차를 설명하기에는 불충분함을 시사한다. 5.2에서 샘플 처리량 4배 증가 시 명확한 이득이 관찰되었고, 50k 스텝 이후 정상 규격으로 돌아와도 baseline 대비 벨로시티가 향상된다. 5.3/5.4에서 경계 정보(시작/종료)와 거리 인코딩을 주입한 경우 각각의 효과가 다르게 나타났고, 경계 정보가 가장 강력한 prior를 제공하며 end-boundary가 더 큰 이점을 주는 경향이 있다. 5.5에서는 cross-entropy per subword의 최적화가 큰 차이를 만들지 못했고, 5.6에서는 next subword 예측이 next byte 예측에 비해 성능이 낮았다. 68M 파라미터 실험( Figure 7 )에서 작은 모델 규모에서도 같은 경향이 나타난다.

아키텍처: LLaMA-3 기반 1.7B 매개변수, 32 layers, 2,048 차원, 32 heads, 32 KV heads, sequence length 8,192, RoPE positional encoding, AdamW 최적화, warmup과 cosine decay 스케줄, 100,000 스텝. 입력-출력의 변경은 거의 계산 비용을 증가시키지 않도록 설계되었다. 다중헤드 n-그램 임베딩을 입력 레이어에 추가해 subword LLM의 어휘 확장을 시뮬레이션하며, 총 약 71M 추가 파라미터를 도입한다. n-gram 기반 임베딩은 최대 order 3, base n-gram 어휘 크기 15,000, 전체 토큰 어휘 512, 임베딩 차원 2048, heads 8. 손실 함수는 비트-퍼-바이트 교차 엔트로피(CE)이며, CE_subword와 CE_UTF-8의 관계를 분석한다. 실험은 TorchTitan 프레임워크하에 수행되며, GPU는 B200에서 약 160 GPU-시간 소요. 68M 파라미터 실험도 포함되었다. 수식: CE_subword(θ,(t_m){m≤M}) = - (1/M) Σ_m≤M log P_θ(t_m | (t_k){k<m}); CE_UTF-8(θ,(b_n){n≤N}) = - (1/N) Σ_n≤N log P_θ(b_n | (b_k){k<n}). 이들 관계는 t를 바이트 시퀀스로 분해할 때 P_θ(t) = ∏i P_θ(b_i | b{<i})로 표현될 수 있어 CE_UTF-8 = (M/N) · CE_subword이다.

단일 규모(1.7B)와 영어 중심의 fineweb-edu 데이터에서 수행되었으며, 모델 규모가 커지거나 다언어 설정에서는 결과가 달라질 수 있다. 50k 스텝의 간섭 기간으로 인한 효과가 전체 프리트레이닝에 축적될 수 있는지에 대한 검증이 부족하며, 서로 다른 효과의 결합 시너지를 실험적으로 평가하지 않았다. 아키텍처 외의 변수들이 상호 작용하는 복합 효과를 완전히 재현하지 못했다.