compile-time-optimization

프로그램이 실제로 실행되는 런타임이 아니라, 실행 전 준비 단계에서 미리 연산을 수행하거나 데이터를 구조화하는 기법이다. LLM에서는 프롬프트나 컨텍스트를 미리 압축하여 실행 시점의 부하를 줄이는 방식으로 활용된다. 런타임 지연 시간을 획기적으로 단축할 수 있다.