cold-load
콜드 로드
모델이 메모리에 적재되지 않은 상태에서 처음 실행되어 초기화되는 과정이다. 로컬 환경에서는 모델 크기와 하드웨어 성능에 따라 이 과정에서 상당한 시간이 소요되며, 이 기간 동안 시스템은 아무런 응답을 내놓지 않아 타임아웃이 발생하기 쉽다.
콜드 로드
모델이 메모리에 적재되지 않은 상태에서 처음 실행되어 초기화되는 과정이다. 로컬 환경에서는 모델 크기와 하드웨어 성능에 따라 이 과정에서 상당한 시간이 소요되며, 이 기간 동안 시스템은 아무런 응답을 내놓지 않아 타임아웃이 발생하기 쉽다.