LLM 개인화 메모리의 문제점: 컨텍스트 블리드와 환각 현상

대체로 긍정적이며, 많은 사용자가 메모리 기능 활성화 이후 응답이 지나치게 장황해지거나 사적인 정보가 불필요하게 개입되는 유사한 경험을 공유했다.

• 중요한 업무용 텍스트를 생성할 때는 메모리 기능을 일시적으로 끄거나, 프롬프트에 '메모리 정보를 무시하고 작성하라'는 명시적 지침을 포함하는 것이 안전하다.

• LLM의 개인화 메모리가 커질수록 관련 없는 정보가 답변에 섞이는 '컨텍스트 블리드' 현상이 발생하여 실무 활용성을 저하시킨다.
• 공식적인 비즈니스 메일 작성 시 사적인 취미 정보가 노출되는 것은 모델이 배경 지식과 작업 지침을 구분하지 못하기 때문이다.
• 이러한 부작용을 막기 위해 RL 단계에서 메모리를 '선택적 배경 정보'로 처리하도록 하는 엄격한 가이드라인 학습이 필수적이다.