Partition Function
분할 함수
확률 분포를 정규화하기 위해 모든 가능한 상태의 지수 에너지를 합산한 값이다. LLM의 Softmax 계산에서 분모에 해당하며, 전체 어휘 사전에 대한 모델의 총 에너지를 나타내는 중요한 척도가 된다.
분할 함수
확률 분포를 정규화하기 위해 모든 가능한 상태의 지수 에너지를 합산한 값이다. LLM의 Softmax 계산에서 분모에 해당하며, 전체 어휘 사전에 대한 모델의 총 에너지를 나타내는 중요한 척도가 된다.
