열역학
열역학은 계의 상태 변수와 에너지 흐름을 공리적 관계로 정립하는 이론으로, 이 글에서는 엔트로피 정의에서 출발해 학습·추론 규칙을 유도하는 수학적 틀로 사용되었다. 엔트로피와 온도 같은 물리량을 확률적 표기와 연결하여 신경망의 동적 거동을 서술하고, 그 결과로 특정 최적화 규칙이나 추론 법칙이 도출된다. 이 접근은 경험적 휴리스틱을 물리적 원리로 환원시켜 일관된 설계와 해석을 가능하게 한다.