본문으로 건너뛰기

deterministic mode

결정적 추론 모드

동일한 요청을 반복했을 때 비트 단위로 같은 출력을 보장하기 위해 배치 처리와 커널 수준에서 동작을 고정하는 설정으로, 처리량을 대폭 낮추는 비용·성능 트레이드오프가 따른다.