LLM의 행동적 상태 비보존성 해결을 위한 Grain 프로젝트: 사용자 인지 가중치 파일 구축

실용적 조언

반복되는 작업 스타일 교정이 필요하다면 Grain 프로토타입을 통해 생성된 시스템 프롬프트 블록을 활용해 보라.
개인화된 에이전트 개발 시 사용자의 '속도 vs 정확도' 선호도를 가중치로 반영하면 사용자 만족도를 높일 수 있다.

섹션별 상세

LLM은 사실 관계는 기억하지만 사용자의 행동 프로세스는 모델링하지 못하는 행동적 상태 비보존성 문제를 안고 있다. 매 세션마다 모델은 사용자가 프로젝트를 80% 지점에서 포기하는 성향이 있는지, 혹은 비판적인 피드백을 선호하는지 잊어버린다. Grain은 이러한 간극을 메우기 위해 사용자의 행동 패턴을 기계가 읽을 수 있는 가중치 파일로 변환한다.

사용자의 이상화된 자아 편향을 방지하기 위해 자유 텍스트 입력 대신 강제 선택형(ipsative) 설문 방식을 채택했다. 속도와 정확성, 가역성과 전념 등 상충하는 가치 사이의 선택을 강제하여 실제 행동 성향을 추출한다. 이 데이터는 Behavioral Weight File로 생성되어 모델이 사용자를 다루는 방식을 재구성하는 지침 필터 역할을 수행한다.

현재는 시스템 프롬프트 블록을 복사하여 ChatGPT나 Claude에 붙여넣는 방식이지만, 향후 로컬 우선의 MCP 서버로 발전시킬 계획이다. 사용자의 로컬 환경에 grain.json이라는 주권적 저장소를 두고, 모든 에이전트가 실행 전 이 가중치를 확인하도록 설계한다. 이는 빅테크 기업의 생태계에 사용자의 정체성이 종속되는 것을 방지하는 방어 기제 역할을 한다.

사용자가 설문에서 거짓으로 답변하는 문제를 해결하기 위해 보낸 이메일 등을 스캔하는 수동적 추론 방식의 도입 가능성이 논의됐다. 또한 자율 에이전트 구축 시 사용자를 화나게 하지 않기 위해 반드시 알아야 할 핵심 인지 가중치 스키마에 대한 커뮤니티 의견을 수렴 중이다. 개인의 인지 상태 레이어를 표준화된 파일로 관리하는 것이 기술적 로드맵의 핵심이다.

용어 해설

모델 컨텍스트 프로토콜(Model Context Protocol): — AI 모델이 로컬 데이터나 도구와 안전하게 상호작용할 수 있도록 돕는 개방형 표준 프로토콜이다. 로컬 서버와 클라우드 모델 간의 데이터 연결을 표준화하여 개인화된 정보를 모델에 효율적으로 주입하는 데 사용된다.
강제 선택형 상충 관계(Ipsative Tradeoff): — 두 가지 긍정적이거나 부정적인 특성 중 하나를 반드시 선택하게 하여 개인의 상대적 선호도를 측정하는 방식이다. '속도 vs 정확성'과 같은 선택을 통해 사용자의 실제 행동 성향을 수치화된 가중치로 변환한다.
행동적 상태 비보존성(Behavioral Statelessness): — LLM이 과거의 사실은 기억하더라도 사용자의 의사결정 방식이나 행동 패턴을 유지하지 못하는 특성이다. 매 세션마다 사용자의 고유한 작업 스타일을 잊어버리는 한계를 지칭한다.

언급된 도구

Grain추천링크

사용자 행동 가중치 추출 및 인지 상태 레이어 관리 도구

MCP추천

로컬 데이터와 AI 모델 간의 컨텍스트 연결 프로토콜

언급된 리소스

DemoGrain Prototype