처리 오버헤드
특정 작업을 수행하기 위해 추가적으로 소요되는 시간이나 컴퓨팅 자원을 의미한다. AgentReady의 경우 압축에 소요되는 5ms의 추가 시간이 이에 해당한다.
코드 두 줄로 LLM 비용 40% 절감? 프롬프트 압축 API AgentReady