빈도 페널티
이미 생성된 토큰이 다시 나타날 확률을 낮추어 모델이 동일한 단어나 문구를 반복하는 현상을 억제하는 파라미터이다. 토큰의 출현 횟수에 비례하여 감점을 부여함으로써 응답의 다양성을 높인다.
기본값만 쓰시나요? LLM 추론 파라미터 최적화로 성능과 비용 한 번에 잡기
기본값만 쓰시나요? LLM 추론 파라미터 최적화로 성능 2배 높이기