Tamp: 코딩 에이전트를 위한 52.6% 토큰 절감 압축 프록시

코딩 에이전트가 매 턴마다 전체 대화 기록과 도구 실행 결과를 다시 전송하면서 발생하는 막대한 API 비용 문제를 해결하기 위해 Tamp가 개발됐다. 이 도구는 에이전트와 API 서버 사이에서 프록시로 동작하며 JSON 공백 제거, 중복 파일 참조 전환, LLMLingua-2 기반 신경망 압축 등 8단계의 압축 과정을 자동으로 수행한다. A/B 테스트 결과 입력 토큰을 평균 52.6% 절감하면서도 모델의 응답 품질은 원본과 동일하게 유지됨이 확인됐다. 개발자는 별도의 코드 수정 없이 에이전트의 API 엔드포인트를 로컬 호스트로 변경하는 것만으로 즉시 비용을 절반 이하로 줄일 수 있다.