memoization

동일한 입력에 대한 함수의 실행 결과를 저장해 두었다가 나중에 같은 입력이 들어오면 저장된 결과를 즉시 반환하는 최적화 기법이다. LLM 호출에서는 완전히 동일한 요청이 반복될 때 API 호출 자체를 생략함으로써 입력과 출력 토큰 비용을 모두 0으로 만들 수 있다.