챕터별 상세
02:00
자기회귀 모델과 디퓨전 모델의 근본적 차이
자기회귀(AR) 모델은 이전 토큰을 기반으로 다음 토큰을 하나씩 생성하는 인과적 구조를 가진다. 이 방식은 품질이 매우 높지만 메모리 대역폭에 제한되어 GPU 연산 자원을 완전히 활용하지 못한다. 반면 디퓨전 모델은 여러 토큰을 병렬로 생성할 수 있어 속도가 빠르지만, 토큰 간의 상호작용을 충분히 반영하지 못해 품질이 떨어지는 한계가 있었다.
AR 모델은 추론 시 메모리 바운드(Memory-bound) 특성을 가지며, 이는 연산 능력보다 데이터 전송 속도가 병목이 됨을 의미한다.
13:00
투기적 디코딩의 개념과 한계
투기적 디코딩(Speculative Decoding)은 작은 모델이 여러 토큰을 미리 추측하고 큰 모델이 이를 한 번에 검증하는 방식이다. 하지만 별도의 드래프트 모델을 운영해야 하는 오버헤드가 발생하며, 드래프트 모델의 예측 정확도가 낮을 경우 오히려 성능이 저하될 수 있다. TiDAR는 이러한 외부 모델 의존성을 없애고 단일 모델 내에서 이 과정을 통합했다.
투기적 디코딩의 효율성은 드래프트 모델의 속도와 타겟 모델과의 일치율에 달려 있다.
20:30
TiDAR의 핵심 아키텍처: Think in Diffusion
TiDAR는 GPU의 남는 연산 밀도를 활용하여 디퓨전 방식으로 다음 토큰들을 미리 '생각(Draft)'한다. AR 모델이 토큰 하나를 생성할 때 발생하는 유휴 연산 슬롯을 활용하기 때문에 추가적인 시간 소모가 거의 없다. 이 과정에서 생성된 드래프트 토큰들은 다음 단계의 검증 후보가 된다.
GPU 연산 밀도(Compute Density)가 높을수록 메모리 전송 시간 동안 더 많은 연산을 수행할 수 있다.
30:00
구조화된 어텐션 마스크를 통한 병렬 처리
TiDAR는 특수하게 설계된 구조적 어텐션 마스크를 사용하여 단일 포워드 패스 내에서 검증과 드래프팅을 동시에 처리한다. 마스크의 특정 구역은 인과적 어텐션(Causal Attention)을 통해 이전 드래프트를 검증하고, 다른 구역은 양방향 어텐션(Bi-directional Attention)을 통해 새로운 드래프트를 생성한다. 이 설계를 통해 KV 캐시를 완벽하게 재사용하며 오버헤드를 최소화했다.
어텐션 마스크의 구조를 변경함으로써 모델이 참고하는 정보의 범위를 동적으로 제어할 수 있다.
40:00
학습 전략 및 실험 결과 분석
TiDAR는 자기회귀 손실과 디퓨전 손실을 동시에 학습하는 통합 손실 함수를 사용한다. 실험 결과 1.5B 및 8B 규모의 모델에서 기존 AR 모델 대비 4.71배에서 5.91배의 속도 향상을 기록했다. 특히 기존 디퓨전 모델들이 해결하지 못했던 품질 격차를 AR 모델 수준으로 좁히는 데 성공했다.
거부 샘플링(Rejection Sampling) 기법을 통해 디퓨전 드래프트 중 AR 모델이 동의하는 토큰만 최종 선택한다.
python
L_TiDAR = (1 / (1 + alpha)) * (L_AR + alpha * L_Diff)
# alpha is the loss balancing factor, typically set to 1
# L_AR: Autoregressive loss
# L_Diff: Diffusion loss (masked language modeling loss)TiDAR의 학습을 위한 자기회귀 손실과 디퓨전 손실이 결합된 통합 손실 함수 구조
용어 해설
- 자기회귀 모델(Autoregressive Model)
- — 이전 토큰들을 기반으로 다음 토큰을 순차적으로 예측하는 모델이다. 언어의 문맥을 파악하는 데 탁월하여 높은 품질을 보장하지만, 한 번에 하나의 토큰만 생성할 수 있어 추론 속도가 느리다는 단점이 있다.
- 확산 모델(Diffusion Model)
- — 데이터에 노이즈를 추가했다가 이를 다시 제거하는 과정을 통해 데이터를 생성하는 모델이다. 언어 모델링에서는 여러 토큰을 동시에 병렬로 생성할 수 있어 속도가 빠르지만, 자기회귀 방식에 비해 품질이 떨어지는 경향이 있다.
- 투기적 디코딩(Speculative Decoding)
- — 작고 빠른 드래프트 모델이 여러 토큰을 미리 예측(Draft)하고, 크고 정확한 타겟 모델이 이를 한 번에 검증(Verify)하는 기법이다. 검증 과정이 병렬로 이루어져 전체적인 추론 속도를 높이는 데 기여한다.
- 키-값 캐시(KV Cache)
- — 자기회귀 모델의 추론 과정에서 이전에 계산된 Key와 Value 벡터를 저장해두는 기술이다. 매 단계마다 중복 계산을 방지하여 추론 효율성을 극대화하며, TiDAR는 이를 디퓨전 드래프팅과 통합하여 활용한다.
- 어텐션 마스크(Attention Mask)
- — 모델이 특정 토큰을 계산할 때 어떤 토큰들을 참고할지 결정하는 행렬이다. TiDAR는 단일 포워드 패스 내에서 검증과 드래프팅을 동시에 수행하기 위해 특수하게 설계된 구조적 어텐션 마스크를 사용한다.
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2025. 12. 27.수집 2026. 02. 21.출처 타입 YOUTUBE
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
