semantic-caching

사용자의 질문을 단순 텍스트가 아닌 의미적 유사성(임베딩)을 기준으로 저장하고 재사용하는 기술이다. '비밀번호 초기화 방법'과 '비번 어떻게 바꿔요'를 동일한 질문으로 인식해 API 호출 없이 기존 답변을 제공함으로써 비용을 절감한다.