Sebastian Raschka

Sebastian Raschka와 Nathan Lambert가 Lex Fridman 쇼에서 LLM 학습 단계, 스케일링 법칙의 유효성, 지정학적 경쟁 및 AGI 타임라인을 심층 분석했다.

LLM의 가중치를 수정하지 않고 추론 단계에서 연산 자원을 추가 투입하여 모델의 논리적 추론 정확도를 극대화하는 다양한 기법과 최신 연구 동향을 체계적으로 분류한다.

2025년 LLM 기술은 DeepSeek R1이 촉발한 추론 모델 혁명과 RLVR, GRPO 기법을 중심으로 효율성과 실용적 성능을 극대화하는 방향으로 진화했다.

DeepSeek V3.2는 Sparse Attention과 자기 검증 기법을 도입하여 추론 효율성과 논리적 엄밀성을 극대화한 오픈 웨이트 하이브리드 모델이다.

Sebastian Raschka가 2013년부터 2025년까지 각 시대를 대표하는 머신러닝 및 AI 입문용 'Hello World' 예제와 기술적 배경을 정리했다.