NYU 딥러닝 강의: Softer Perceptron과 다중 클래스 분류

Softer Perceptron은 이진 분류를 위한 퍼셉트론의 변형 모델이다.

교차 엔트로피는 두 확률 분포 사이의 차이를 측정하는 지표이다.

기울기(gradient)는 손실 함수를 최소화하는 방향을 알려준다.

로그 우도는 확률의 곱을 로그의 합으로 바꾸어 계산을 용이하게 한다.

SGD는 데이터가 많을 때 효율적인 학습 방법이다.

방향 도함수는 특정 방향으로의 변화율을 의미한다.

Softer Perceptron은 퍼셉트론의 출력을 확률로 해석한다.

최적화 과정은 손실 곡면에서의 하강으로 이해할 수 있다.

소프트맥스는 다중 클래스 분류의 표준 출력층 활성화 함수이다.

다중 클래스 분류는 클래스 간의 상호 배타성을 가정한다.

원-핫 인코딩은 범주형 데이터를 수치화하는 방법이다.

소프트맥스의 미분은 출력값과 정답의 차이로 표현된다.

다중 클래스 퍼셉트론은 행렬 연산을 통해 클래스별 점수를 계산한다.

베타는 모델의 확신도를 조절하는 하이퍼파라미터이다.

학습 규칙은 손실 함수의 기울기를 따라 가중치를 갱신한다.