gpu-snapshotting
실행 중인 GPU 메모리의 상태를 그대로 저장했다가 나중에 즉시 복원하는 기술이다. 무거운 초기화 과정을 거치지 않고 저장된 시점부터 바로 실행할 수 있어 부팅 속도를 획기적으로 줄여준다.
2분 걸리던 LLM 부팅을 12초 만에? Modal의 GPU 스냅샷 기술