LangChain 및 LangGraph를 위한 범용 에이전트 캐싱 레이어 공개

작성자가 관리형 Redis 서비스에서의 체크포인팅 문제를 해결한 것에 대해 긍정적인 반응이 예상되며, 특히 인프라 제약이 많은 기업 환경 사용자들의 관심이 높다.

• ElastiCache나 Memorystore를 사용 중이라면 BetterDBSaver를 통해 LangGraph 체크포인트를 구현하라.
• Vercel AI SDK를 사용 중이라면 함께 제공되는 미들웨어를 통해 캐싱 기능을 통합하라.

랭그래프 체크포인트 레디스(LangGraph Checkpoint Redis)

— LangGraph의 상태를 Redis에 저장하여 워크플로를 중단 지점부터 재개할 수 있게 돕는 라이브러리이다. Redis 8 버전과 RedisJSON, RediSearch 같은 특정 모듈이 필수적으로 요구되어 클라우드 관리형 서비스에서는 사용이 제한되는 경우가 많다.

발키(Valkey)

— Redis의 오픈소스 라이선스 변경 이후 리눅스 재단에서 관리하는 오픈소스 인메모리 데이터 저장소이다. Redis와 높은 호환성을 유지하면서도 완전한 오픈소스로 제공되어 클라우드 벤더와 개발자들 사이에서 대안으로 주목받고 있다.

오픈텔레메트리 스팬(OTel Spans)

— OpenTelemetry 표준에서 분산 트래킹의 최소 작업 단위를 의미한다. 에이전트의 캐시 히트 여부나 도구 호출 시간 등을 추적하여 시스템의 성능 병목을 파악하고 가시성을 확보하는 데 필수적이다.