가변 엔트로피
정보의 불확실성이나 예측 가능성이 시간에 따라 어떻게 변화하는지를 나타내는 지표이다. 추론 과정에서 모델이 어느 시점에 더 많은 탐색(Search)을 수행해야 할지 결정하는 가이드 역할을 하여 효율적인 연산을 돕는다.
"영어 대신 자체 기호로 생각한다" AI 추론 효율을 극대화할 5가지 아키텍처