Latent-Space Language Model
잠재 공간 언어 모델
토큰 자체가 아니라 여러 토큰에 걸친 이산 개념을 잠재 공간에서 예측하도록 학습하는 언어 모델입니다. 개념 표현을 토큰 생성 과정에 다시 입력해 다음 토큰 예측을 보조하며, 토큰 수준 목표와 개념 수준 목표를 함께 최적화합니다.
잠재 공간 언어 모델
토큰 자체가 아니라 여러 토큰에 걸친 이산 개념을 잠재 공간에서 예측하도록 학습하는 언어 모델입니다. 개념 표현을 토큰 생성 과정에 다시 입력해 다음 토큰 예측을 보조하며, 토큰 수준 목표와 개념 수준 목표를 함께 최적화합니다.
