챕터별 상세
00:00
이진 퍼셉트론의 한계와 결정 경계의 재검토
이진 퍼셉트론이 선형 분리가 불가능한 데이터를 만났을 때 발생하는 문제를 복습한다. 데이터가 선형적으로 완벽히 나뉘지 않으면 결정 경계가 수렴하지 못하고 계속 진동하게 된다. 이를 해결하기 위해 결정론적인 0 또는 1의 출력이 아닌, 특정 클래스에 속할 확률을 나타내는 부드러운 경계의 필요성을 제안한다.
이진 퍼셉트론은 계단 함수를 활성화 함수로 사용하여 출력이 불연속적이다.
04:30
로지스틱 시그모이드 함수와 소프트 퍼셉트론 도입
입력값의 선형 결합을 0과 1 사이의 값으로 변환해주는 로지스틱 시그모이드 함수를 도입한다. 시그모이드 함수를 통해 모델은 단순히 'A이다'가 아니라 'A일 확률이 0.7이다'와 같은 확률적 출력을 내놓게 된다. 이를 통해 데이터가 경계 근처에 있을 때 발생하는 오차에 대해 더 유연하게 대처할 수 있는 소프트 퍼셉트론 구조를 완성한다.
시그모이드 함수는 실수를 0에서 1 사이의 확률값으로 매핑하는 S자형 곡선이다.
10:30
온도 파라미터와 제로 온도 한계
시그모이드 함수의 기울기를 조절하는 콜드니스(Coldness) 또는 온도 파라미터 베타()의 역할을 설명한다. 값이 커질수록(온도가 낮아질수록) 시그모이드 곡선은 가팔라지며, 가 무한대로 가면 헤비사이드 계단 함수와 동일해진다. 이는 소프트 퍼셉트론이 이진 퍼셉트론을 포함하는 더 일반화된 모델임을 보여준다.
딥러닝 모델의 출력 분포를 조절할 때 사용하는 Temperature 개념의 기초가 된다.
18:00
확률적 모델링과 예측 규칙의 공식화
소프트 퍼셉트론의 출력을 조건부 확률 로 정의하고 이를 수식으로 공식화한다. 모델이 특정 데이터를 클래스 1로 분류할 믿음의 정도를 시그모이드 함수값으로 표현한다. 이진 퍼셉트론의 예측 규칙과 소프트 퍼셉트론의 확률적 예측 규칙을 비교하며 모델의 출력값이 갖는 통계적 의미를 명확히 한다.
조건부 확률은 주어진 입력 x에 대해 결과 y가 나타날 확률을 의미한다.
29:20
우도와 최대 우도 추정(MLE)의 원리
동전 던지기 예시를 통해 우도(Likelihood)의 개념을 설명하고, 관측된 데이터를 가장 잘 설명하는 파라미터를 찾는 최대 우도 추정법을 다룬다. 계산의 편의를 위해 우도에 로그를 취한 로그 우도(Log-Likelihood)를 사용하며, 이를 파라미터에 대해 미분하여 0이 되는 지점을 찾음으로써 최적의 파라미터를 도출한다. 이 과정은 신경망 학습에서 손실 함수를 최소화하는 것과 본질적으로 동일한 원리임을 강조한다.
최대 우도 추정은 통계학에서 관측값에 대해 가능성이 가장 높은 모수를 찾는 방법이다.
언급된 리소스
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 03. 12.수집 2026. 03. 12.출처 타입 YOUTUBE
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
