temperature-sampling
언어 모델이 다음 토큰을 선택할 때 확률 분포의 무작위성을 조절하는 파라미터이다. 온도가 높을수록 더 다양하고 창의적인 결과물이 생성된다.
LLM 내부 구조를 파헤친 4,000자 논문: 수식부터 벤치마크까지