Sampler Settings
샘플러 설정
모델이 다음 토큰을 고르는 과정에 사용하는 top-p 같은 추론 파라미터입니다. 모델의 thinking 여부와 제공자에 맞춰 값이 달라질 수 있으며, ninfer는 요청마다 이 설정을 기록하고 모델에 맞는 값을 자동으로 구성한다고 설명됩니다.
샘플러 설정
모델이 다음 토큰을 고르는 과정에 사용하는 top-p 같은 추론 파라미터입니다. 모델의 thinking 여부와 제공자에 맞춰 값이 달라질 수 있으며, ninfer는 요청마다 이 설정을 기록하고 모델에 맞는 값을 자동으로 구성한다고 설명됩니다.