본문으로 건너뛰기

llm-caching

LLM 캐싱

중급

동일하거나 유사한 질문에 대한 AI의 답변을 데이터베이스에 저장해 두었다가 재사용하여 비용과 응답 시간을 줄이는 기술이다.