채팅 기록 대신 외부 데이터베이스로 에이전트 상태를 관리하는 Castra

작성자가 직접 도구를 사용하여 도구 자체를 고도화한 사례(v1.3.0에서 v3.1.2까지)에 대해 흥미롭다는 반응이 예상된다.

• 에이전트 개발 시 채팅 기록에 의존하기보다 외부 DB에 상태를 저장하는 설계를 고려할 것
• AGENTS.md와 같은 마크다운 파일을 인터페이스로 활용하여 LLM의 가독성을 높일 것

상태 비저장(Stateless)

— 시스템이 이전 요청의 데이터를 보존하지 않고 각 요청을 독립적으로 처리하는 방식이다. LLM을 상태 비저장 엔진으로 취급하면 모델 교체 시에도 이전 대화 기록에 의존하지 않고 외부 데이터에서 문맥을 읽어와 작업을 수행할 수 있다.

문맥 망각(Context Amnesia)

— LLM 에이전트가 대화 기록이 끊기거나 터미널이 종료될 때 이전 작업 상태를 잃어버리는 현상이다. 이는 에이전트의 영속성을 저해하며, 복잡한 장기 프로젝트 수행 시 작업의 연속성을 방해하는 주요 원인이 된다.

감사 로그(Audit Log)

— 시스템 내에서 발생한 모든 활동과 변경 사항을 기록한 문서이다. 에이전트의 작업 수행 과정을 추적하고 문제 발생 시 원인을 분석하거나 보안 및 규정 준수 여부를 확인하는 데 중요한 근거로 활용된다.