코딩 에이전트의 장기 기억 장치로 벡터 DB 대신 SQLite를 사용해야 하는 이유

작성자의 미니멀리즘 접근 방식에 대해 많은 사용자가 공감을 표하며, 오버엔지니어링을 경계해야 한다는 의견이 주를 이루고 있습니다.

• 에이전트 메모리 구현 시 SQLite의 FTS5 모듈을 사용하여 키워드 기반 인덱싱을 먼저 시도해 보라.
• LLM에게 '이 질문에 답하기 위해 과거 대화에서 검색해야 할 키워드 3가지를 뽑아줘'와 같은 프롬프트를 사용하여 검색 효율을 높여라.

• 복잡한 벡터 DB 인프라를 구축하기 전에 SQLite의 FTS5와 같은 전통적인 전문 검색 기능이 요구 사항을 충족하는지 먼저 검토해야 한다.
• LLM의 추론 능력을 활용하여 검색 쿼리를 생성하게 하면 단순한 의미론적 유사도 검색보다 더 정교한 결과 도출이 가능하다.
• 약 300줄의 Python 코드와 SQLite만으로도 상용 솔루션에 필적하는 고성능 에이전트 메모리 시스템을 구축할 수 있다.