LLM 에이전트를 위한 3계층 기억 체계(의미, 일화, 절차 기억) 구현 사례

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

인지 과학의 3계층 기억 모델을 LLM 에이전트에 적용하여, 과거의 실수를 학습하고 워크플로우를 스스로 진화시키는 오픈소스 프로젝트 mengram을 공유했다.

배경

LLM 에이전트가 동일한 실수를 반복하는 문제를 해결하기 위해 인지 과학의 세 가지 기억 체계(의미, 일화, 절차 기억)를 구현한 오픈소스 프로젝트 mengram을 공개했다.

의미 / 영향

에이전트의 성능 한계가 단순한 프롬프트의 문제가 아니라 기억의 구조적 결여에서 기인함을 시사한다. 인지 과학 모델을 차용한 3계층 기억 시스템은 에이전트가 자율적으로 실수를 교정하고 복잡한 워크플로우를 최적화하는 실질적인 해결책이 된다.

커뮤니티 반응

작성자가 절차 기억의 실험 여부를 묻자 커뮤니티는 에이전트의 실수 반복 문제 해결에 대해 관심을 보였다.

주요 논점

01찬성다수

인지 과학 기반의 3계층 기억 구조가 에이전트의 실무 능력을 향상시킨다.

합의점 vs 논쟁점

합의점

단순한 사실 저장만으로는 에이전트의 반복적인 실수를 막기에 부족하다.
벡터 검색과 키워드 검색을 결합한 하이브리드 방식이 기억 인출에 효과적이다.

논쟁점

절차 기억을 자동으로 진화시키는 과정에서 발생할 수 있는 예기치 못한 워크플로우 변형 가능성

실용적 조언

에이전트의 기억 중복을 방지하기 위해 임베딩 유사도 임계값을 0.85로 설정하고 대소문자 구분 없는 이름 매칭을 병행하면 데이터 품질을 높일 수 있다.
PostgreSQL의 pgvector와 BM25를 RRF로 결합하여 하이브리드 검색을 구현하면 단순 벡터 검색보다 정확한 기억 인출이 가능하다.

섹션별 상세

에이전트의 기억을 의미, 일화, 절차의 세 계층으로 나누어 구현했다. 의미 기억은 지식을, 일화 기억은 과거 사례를, 절차 기억은 진화하는 워크플로우를 담당한다. 인지 과학 모델을 LLM 에이전트에 이식하여 단순한 사실 회상을 넘어선 고차원적 인지 기능을 모방했다. 이를 통해 에이전트가 과거의 실수를 통해 행동 방식을 능동적으로 수정하는 기반을 마련했다.

의미 기억 구현에는 하이브리드 검색과 지식 그래프를 결합했다. 벡터 검색(HNSW)과 BM25를 RRF로 융합하고, 엔티티 간의 관계를 정의한 지식 그래프를 통해 검색 범위를 확장한다. 중복 제거를 위해 임베딩 유사도 임계값 0.85와 대소문자 구분 없는 이름 매칭을 적용하여 데이터 무결성을 유지한다. 검색 파이프라인은 Recency와 MMR을 거쳐 최종 재순위화 단계를 포함한다.

일화 기억은 대화에서 사건의 요약, 참여자, 시간 정보와 함께 '결과(성공/실패)'를 추출하여 저장한다. 에이전트가 유사한 상황에 직면했을 때 과거에 무엇이 작동했고 무엇이 실패했는지를 검색하여 의사결정에 반영한다. 이는 단순한 사실 회상을 넘어 경험 기반의 학습을 가능하게 하는 핵심 요소이다. 추출된 데이터는 구조화되어 에이전트의 다음 행동을 결정하는 컨텍스트로 활용된다.

json

{ "summary": "DB crashed due to missing migrations", "outcome": "resolved", "resolution": "Added pre-deploy migration check", "date": "2025-05-12" }

일화 기억에 저장되는 사건 요약 및 결과 데이터 구조 예시

절차 기억은 실패를 통해 워크플로우가 자동으로 진화하는 구조를 가진다. 예를 들어 배포 중 마이그레이션을 잊어 실패했다면, 다음 버전(v2)에서는 마이그레이션 단계가 추가된 워크플로우가 생성된다. 각 절차는 성공/실패 횟수를 추적하여 에이전트가 해당 워크플로우의 신뢰도를 스스로 평가할 수 있도록 설계됐다. 명시적 피드백이나 대화 중 감지된 실패를 통해 새로운 버전의 프로시저가 생성되는 피드백 루프를 형성한다.

text

v1: build -> push -> deploy
FAILURE: forgot migrations
v2: build -> run migrations -> push -> deploy
FAILURE: OOM on build
v3: build -> run migrations -> check memory -> push -> deploy

실패를 통해 진화하는 절차 기억의 워크플로우 버전 관리 예시

실무 Takeaway

에이전트가 동일한 실수를 반복하지 않게 하려면 사실 저장 외에 사건 결과와 워크플로우 진화 기억이 필수적이다.
PostgreSQL과 pgvector, BM25를 조합한 하이브리드 검색 시스템으로 신뢰할 수 있는 기억 인출 파이프라인을 구축할 수 있다.
일화 기억과 절차 기억을 연결하면 에이전트가 오류 보고를 기반으로 자신의 작업 단계를 스스로 수정하는 피드백 루프가 형성된다.

언급된 도구

mengram추천링크

3계층 기억 시스템 구현 SDK 및 API

pgvector추천

PostgreSQL 기반 벡터 저장 및 검색

Ollama추천

로컬 LLM 실행 환경

언급된 리소스

GitHubmengram GitHub Repository