본문으로 건너뛰기

prefix

접두사

프롬프트의 시작 부분에 위치한 공통적인 텍스트 블록이다. OpenAI의 캐싱 시스템은 프롬프트의 시작부터 일치하는 연속된 토큰들을 감지하여 캐시 적중 여부를 판단한다.