next-token-prediction

주어진 문맥 다음에 올 가장 확률 높은 단어를 예측하는 LLM의 핵심 학습 메커니즘이다. 이 방식이 실제 언어 이해를 가능케 하는지, 아니면 정교한 통계적 모방에 그치는지에 대한 대립의 중심에 있다.