TL;DR
현대 AI 모델은 단일 값을 출력하는 결정론적 기계가 아니라, 가능성들의 분포를 구축하고 그 안에서 샘플링하는 확률적 시스템으로 작동한다. 텍스트 생성부터 이미지 분류, 회귀 분석에 이르기까지 모델의 최종 출력은 확률 분포의 한 지점일 뿐이며, 그 이면에는 다양한 가능성과 확률이 존재한다. 이러한 분포를 이해하는 것은 모델의 신뢰도를 파악하고, 온도 파라미터 등을 통해 모델의 행동을 제어하는 데 필수적이다. 따라서 AI 엔지니어는 단일 정답을 예측하는 대신 확률 분포를 예측하고 다루는 사고방식을 갖추어야 한다.
챕터별 상세
Everything is a Distribution
The Single Answer is a Lie
What a Distribution Actually Is
To Generate is to Sample
Softmax: The Machine that Makes Distributions
Softmax 함수는 입력 벡터의 각 요소를 지수 함수로 변환한 뒤, 전체 합으로 나누어 확률 분포를 생성한다.
Classification is a Distribution Too
Regression is a Hidden Bell Curve
가우시안 분포(정규 분포)는 데이터가 평균값 주변에 집중되어 있는 확률 분포를 의미한다.
The Shape is the Model's Honesty
엔트로피는 확률 분포의 불확실성을 측정하는 척도이다.
Acting, Believing, and the Whole World
베이지안 사고는 사전 확률(prior)에 새로운 데이터(evidence)를 결합하여 사후 확률(posterior)을 도출하는 방식이다.
언급된 리소스
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.



