Champoleello의 agentpause가 무료 API 요금 한도 전에 LLM 에이전트를 안전하게 중단하고 작업 손실 없이 재개함

무료 API 티어에서 LLM 에이전트가 429로 중단될 때 전체 컨텍스트를 다시 전송해야 하는 문제를 해결하기 위해 작성자는 agentpause를 개발해 각 LLM 호출 전에 다음 단계의 예상 비용과 공급자 rate-limit 헤더의 잔여 예산을 비교하도록 만들었다. 예산이 부족하면 실제로 필요한 시간만큼 대기하거나 체크포인트를 저장하고 깔끔하게 종료한 뒤 이후 동일 단계에서 재개하도록 설계되었으며 로컬 환경에서는 llama.cpp의 슬롯 저장/복원으로 KV-cache를 포함한 체크포인트 복원이 가능해 재프리필을 대폭 단축했다. M1 Pro에서 약 9k 토큰 컨텍스트의 재프리필이 Qwen3-8B 기준으로 콜드 재개 46.9초 대 워밍 복원 0.5초(약 93배)로 측정되었고 이 수치는 모델 크기에 따라 더 커지는 경향을 보였다. 또한 히스토리 압축은 프리픽스 캐시를 무효화해 역효과가 날 수 있고, 단순 절단은 사실 유지 실패와 허위 생성 위험을 크게 높였으므로 요약 또는 체크포인팅 기반 중단 전략을 우선 고려해야 한다.