본문으로 건너뛰기

Chatsorter: AI 챗봇을 위한 메모리 및 컨텍스트 관리 레이어

챗봇의 대화 이력을 3단계 파이프라인으로 요약하고 구조화된 사실을 추출하여 메모리 효율을 높이는 오픈소스 레이어 ChatSorter 소개.

섹션별 상세

ChatSorter는 3단계 파이프라인을 통해 LLM 컨텍스트를 관리한다. 1단계는 5개 메시지 버퍼, 2단계는 Ollama llama3.2를 이용한 요약, 3단계는 구조화된 사실(key/value) 추출이다.
검색 단계에서는 유사도, 중요도 가중치, 시간 감쇠를 결합한 복합 점수(1-10점)를 사용한다. 중요도가 10점인 요약은 시간 감쇠가 적용되지 않아 핵심 사실이 항상 유지된다.
1,000개 메시지 테스트에서 95%의 정확도를 기록했으며, 평균 요약 시간은 12초가 소요됐다. 200, 600, 800 메시지 체크포인트에서 안정적인 성능을 보였으나, 취미 태그와 같은 특정 정보는 일관성 있게 추출되지 않는 한계가 있다.

언급된 리소스

AI 분석 전체 내용 보기

AI 요약 · 북마크 · 개인 피드 설정 — 무료

출처 · 인용 안내

원문 발행 2026. 04. 20.수집 2026. 04. 20.출처 타입 REDDIT

인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.