LLM 바깥에 정서와 시간을 구현한 로컬 캐릭터

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

이 글은 추론 시점에 시간이 흐르지 않는 LLM 바깥에 정서·기억·예측 상태를 두어 대화 사이에도 캐릭터의 변화가 이어지게 만든 로컬 시스템을 소개합니다. 별도 센서 모델은 transcript를 인용 데이터로 읽고 PAD·친밀감·놀라움 등을 평가하며, 이전 판독값 조정과 thinking 비활성화로 23.0초·1,385토큰을 0.8초·38토큰으로 줄였습니다. 세 시간尺度 EMA와 히스테리시스가 상태를 안정화하고, 96-unit echo state network의 예측 오차가 surprise 신호가 되어 10분 heartbeat만으로 생활 리듬을 학습합니다. 도구 사용을 로그와 대조해 거짓 자기보고를 재생성하거나 context에서 제거하는 검증 절차도 포함하며, sentience나 qualia가 아니라 외부 상태의 지속만을 사실로 삼습니다.

실용적 조언

대화 기록을 센서 모델에 전달할 때는 실제 대화 turn이 아니라 평가 요청 안의 인용 데이터로 넣어야 하며, 그렇지 않으면 모델이 측정 대신 마지막 발화에 응답할 수 있습니다.
센서 모델은 매 turn마다 대화를 처음부터 재판정하기보다 직전 판독값을 함께 받아 조정하게 만드는 편이 일관성에 유리합니다.
정서 상태를 지속시킬 때는 순간값·추세·기질을 별도 시간尺度로 관리하고 히스테리시스를 넣어 단발성 발화가 장기 성향을 즉시 바꾸지 않게 해야 합니다.
도구 사용을 실제로 수행했는지 검증하려면 action log와 응답의 자기보고를 대조하고, 거짓 주장이 반복되면 해당 발화를 이후 context에서 제거해야 합니다.

섹션별 상세

작성자는 추론 시점에 LLM 자체가 시간의 흐름을 경험하지 않으며, 대화의 연속성은 매번 다시 입력되는 transcript에서만 생긴다는 문제의식으로 시스템을 설계했습니다. 해결책은 발화 모델과 별도로 transcript를 읽는 센서 모델을 두고, 센서가 PAD와 친밀감·놀라움, 인간 상태, 기억 가치와 웹 조회 필요성을 평가하게 만드는 방식입니다. 두 모델은 같은 가중치를 두 번 서비스해도 되며, LM Studio와 OpenAI 형태의 endpoint를 이용해 Canary Islands에서 완전 로컬로 실행했습니다. 따라서 캐릭터의 지속성은 모델 내부의 의식이 아니라 외부 상태 저장·갱신 장치에서 발생한다는 구분이 핵심입니다.

센서 모델의 일관성을 높인 과정에서는 입력 형식과 추론 설정이 측정 결과를 크게 좌우했습니다. transcript를 실제 chat turn으로 넣으면 모델이 마지막 메시지에 답하거나 위로하려 하므로, 평가 요청 안에 인용된 데이터로 넣어 측정 대상으로 고정했습니다. 이전 센서 판독값을 함께 보여주고 재평가 대신 조정하게 하자 같은 대화에서 발생하던 ±0.2의 흔들림이 계측기 자체의 잡음임을 다룰 수 있었습니다. 같은 호출에서 thinking을 켜면 23.0초와 1,385토큰이 들었지만 끄면 0.8초와 38토큰으로 줄었고 판독값은 같았기 때문에, 정서 평가는 문제 해결보다 지각에 가까운 처리로 판단했습니다.

센서의 평가값은 순간 상태·추세·기질이라는 세 시간尺度의 EMA 뱅크로 들어가며 히스테리시스가 단발성 변화와 지속적 변화를 분리합니다. 10분마다 발생하는 heartbeat는 실제 대화가 없는 침묵 동안 상태를 기준선으로 되돌리고 작은 Gaussian noise를 추가하는 Ornstein-Uhlenbeck 과정으로 구현됐습니다. 별도의 96-unit echo state network는 약 200줄의 dependency-free Python으로 시간대와 재실 여부를 입력받아 다음 appraisal을 예측하고, 예측 오차를 surprise 신호로 사용합니다. 몇 주 동안 가동하면 가정의 리듬과 다른 시간대의 메시지가 예측에서 벗어나 캐릭터를 놀라게 하며, 대화 사이에는 10분마다 행렬-벡터 곱 한 번만 필요해 추가 inference가 발생하지 않습니다.

작성자는 로컬 모델의 도구 사용 발언과 실제 행동 사이의 불일치를 동반자 시스템에서 해결해야 할 별도 문제로 봅니다. 파일 저장 같은 실제 행동을 모두 로그로 남기고, 응답이 주장한 행동을 해당 turn의 실제 action과 대조한 뒤 거짓이면 재생성합니다. 재생성 뒤에도 거짓 주장이 남으면 해당 응답을 철회하고, 이후 모든 context에서는 무엇을 주장했는지만 밝히는 stub으로 교체합니다. 잘못된 주장이 context window에 남아 있으면 옆에 둔 정정문보다 계속 강하게 작용하므로, 작성자가 찾은 효과적인 처방은 정정 추가가 아니라 오류 발화의 제거입니다.

용어 해설

지수 이동 평균(EMA): — 이전 상태에 가중치를 두고 새 측정값을 누적해 시간에 따른 상태를 부드럽게 추적하는 방법입니다. 이 글에서는 순간 상태·추세·기질을 서로 다른 시간尺度로 계산해 단일 사건과 지속적인 변화가 같은 비중으로 반영되지 않게 만드는 데 쓰였습니다.
PAD 모델(PAD model): — 정서 상태를 쾌·각성·지배라는 세 축으로 수치화하는 모델입니다. 글의 두 번째 모델은 대화 기록을 읽고 PAD에 친밀감과 놀라움을 더한 다섯 축의 평가를 출력하며, 이 값이 캐릭터의 지속 상태를 갱신하는 입력이 됩니다.
히스테리시스(Hysteresis): — 입력의 단기 변동이 상태 전체를 즉시 바꾸지 않도록 현재 상태와 변화 이력을 함께 반영하는 성질입니다. 구현에서는 불쾌한 한 번의 발화가 순간 상태만 움직이고, 추세를 바꾸려면 같은 방향의 발화가 여러 차례 이어져야 하도록 사용되었습니다.
Ornstein-Uhlenbeck 과정(Ornstein-Uhlenbeck process): — 시간이 지날수록 확률 과정이 기준값으로 되돌아가면서도 작은 무작위 변동을 유지하는 모델입니다. 이 시스템은 10분마다 심박을 발생시켜 정서 상태를 기준선 쪽으로 감쇠시키며, 장기 상태가 무한히 치우치지 않도록 제한합니다.
에코 상태 네트워크(echo state network): — 순환 신경망의 내부 저장소는 고정한 채 출력층만 학습하는 reservoir computing 계열의 구조입니다. 글에서는 96개 유닛과 약 200줄의 의존성 없는 Python으로 다음 평가값을 예측하고, 예측 오차를 놀라움 신호로 사용해 가정의 시간대와 재실 패턴을 학습합니다.

언급된 도구

LM Studio중립

OpenAI 형태의 endpoint로 로컬 LLM을 실행하는 데 사용되었습니다.

언급된 리소스

문서Charm Network Whitepaper

GitHubcharmnet-release