TL;DR
NYU의 2025년 봄 학기 딥러닝 강의는 인공지능의 역사적 흐름과 현대 딥러닝의 핵심 구성 요소를 체계적으로 다룬다. 데이터, 모델 아키텍처, 손실 함수라는 세 가지 기둥을 중심으로 복잡한 패턴을 학습하는 원리를 설명하며, 특히 사람이 직접 특징을 추출하던 방식에서 신경망이 스스로 특징을 학습하는 '엔드 투 엔드' 방식으로의 전환을 강조한다. 강의 전반에 걸쳐 PyTorch 프레임워크를 활용한 실습이 병행되며, 이론적 토대와 실무적 구현 능력을 동시에 배양하는 것을 목표로 한다.
챕터별 상세
강의 개요 및 운영 방식
NYU의 딥러닝 강의는 이론과 실습의 균형을 중시하며, 모든 강의 자료는 오픈 소스로 제공된다.
인공지능의 역사와 딥러닝의 부상
딥러닝은 수십 년간의 연구 끝에 데이터와 컴퓨팅 파워의 증가로 인해 현대 AI의 주류가 되었다.
딥러닝의 3대 구성 요소
이 세 가지 요소의 조합에 따라 모델의 성능과 용도가 결정된다.
신경망의 기본 연산과 비선형성
비선형 활성화 함수가 없다면 신경망은 아무리 깊게 쌓아도 단일 선형 레이어와 동일한 표현력만 갖게 된다.
PyTorch 프레임워크 소개 및 실습 환경 구축
PyTorch는 유연한 구조 덕분에 연구자들이 새로운 아이디어를 빠르게 구현하고 실험하는 데 최적화되어 있다.
import torch
import torch.nn as nn
# 선형 레이어 정의: 입력 10, 출력 5
layer = nn.Linear(10, 5)
x = torch.randn(1, 10)
output = layer(x)
print(output.shape)PyTorch를 사용하여 기본적인 선형 레이어를 정의하고 텐서 연산을 수행하는 예시
용어 해설
- 역전파(Backpropagation)
- — 신경망의 가중치를 최적화하기 위해 출력층에서 발생한 오차를 입력층 방향으로 전달하며 각 가중치의 그레이디언트를 계산하는 알고리즘이다. 이를 통해 복잡한 다층 구조에서도 효율적으로 학습이 가능해진다.
- 경사 하강법(Gradient Descent)
- — 손실 함수의 값을 최소화하기 위해 가중치를 그레이디언트의 반대 방향으로 점진적으로 업데이트하는 최적화 기법이다. 딥러닝 모델 학습의 가장 기본적인 메커니즘으로 사용된다.
- 손실 함수(Loss Function)
- — 모델의 예측값과 실제 정답 사이의 차이를 수치화하여 모델의 성능을 평가하고 학습의 방향을 결정하는 지표이다. 평균 제곱 오차(MSE)나 교차 엔트로피 등이 대표적이다.
- 엔드 투 엔드 학습(End-to-End Learning)
- — 입력 데이터에서 최종 출력까지 중간 단계의 수동 개입 없이 하나의 신경망이 전체 과정을 직접 학습하는 방식이다. 사람이 직접 특징을 추출하던 전통적 방식과 대비되는 딥러닝의 핵심 장점이다.
언급된 리소스
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.