확산 언어 모델
텍스트를 한 번에 하나씩 생성하는 자동 회귀 모델과 달리, 마스킹된 전체 시퀀스에서 노이즈를 점진적으로 제거하며 문장을 완성하는 방식의 언어 모델이다.
BERT를 확산 모델로? dLLM으로 구현하는 차세대 언어 생성 프레임워크
확산 모델의 느린 추론 해결, CDLM으로 최대 14.5배 빨라진다
LLM 속도 6배 빨라지는데 품질은 그대로? NVIDIA의 TiDAR 논문 분석