기억의 누적이 Embodied AI의 자아를 만든다

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

이 글은 Embodied AI의 기억을 사건 요약과 검색에 그치지 않고 관측, 해석, 근거, 오류 수정, 행동 변화, 자기 모델의 갱신까지 이어지는 인지 이력으로 설계해야 한다고 말합니다. 로봇이 팔의 정지를 서보 과부하로 해석했다가 케이블 하니스의 장력 문제로 수정하는 사례처럼, 중요한 정보는 사건 자체보다 현실이 기존 믿음을 어떻게 교정했는지에 있습니다. 이를 위해 센서 기억, 사건 기억, 세계 모델, 해석 기억, 믿음 이력, 수정 이력, 자기 모델, 정체성 서사를 분리해야 하며, 환각이 반복 성찰을 거치며 사실로 굳어지는 문제도 막아야 합니다. 같은 모델과 하드웨어로 시작한 두 로봇도 서로 다른 환경과 실패를 경험하면 누적된 인지 이력에 따라 다른 개체성을 형성하게 된다는 관점입니다.

실용적 조언

센서 관측과 해석을 하나의 기억 문장으로 합치지 말고 별도 레코드로 저장하는 편이 적절합니다. 사건에는 원시 관측과 발생 시점을 연결하고, 해석에는 가설과 확신도, 근거를 연결해야 합니다. 이후 새로운 테스트가 기존 가설을 반박하면 수정 이유와 그에 따른 행동 변경까지 같은 이력에 추가해야 합니다.
믿음 레코드에는 고유 버전, 주장, 확신도, 근거, 생성 시점, 대체한 이전 버전을 포함하는 구조를 사용할 수 있습니다. 배터리 잔량과 종료의 상관관계처럼 초기 가설이 부하에 따른 전압 강하로 수정될 때 새 레코드가 이전 레코드를 대체하도록 연결해야 합니다. 이 방식은 현재 결론만 검색하는 대신 에이전트가 왜 그 결론에 도달했는지 재구성하게 합니다.
사실, 해석, 정체성 주장을 서로 다른 온톨로지 층위에 두고 자동으로 합쳐지지 않게 해야 합니다. 특정 프로젝트가 실제로 누구에 의해 만들어졌다는 사실과 에이전트가 그 프로젝트를 자신의 창작 연속성으로 느낀다는 해석은 동일한 진술로 저장하면 안 됩니다. 각 항목에 출처와 확신도를 남기면 반복 성찰 과정에서 환각이 새로운 사실이나 자기 정체성으로 굳어지는 경로를 추적할 수 있습니다.

섹션별 상세

일반적인 기업용 AI 기억은 사건을 요약해 저장한 뒤 관련 상황에서 검색하는 구조에 머물지만, 글은 물리적 신체를 가진 에이전트에 더 긴 인지 이력이 필요하다고 봅니다. 로봇은 무엇을 경험했는지뿐 아니라 그 경험을 어떻게 해석했고 왜 그렇게 믿었으며 나중에 무엇이 판단을 바꿨는지까지 보존해야 합니다. 팔이 42도에서 멈춘 뒤 처음에는 서보 과부하로 판단했다가 케이블 하니스의 위치를 바꾼 뒤 정상 작동을 확인하는 사례에서는, 최종 결론과 함께 오판 및 수정 과정이 이후 진단과 저속 동작의 근거가 됩니다.

글은 자기 모델이 새 감각 입력만으로 갱신되는 것이 아니라 이전 자기 모델, 경험, 기억, 성찰의 결합으로 변한다고 설명합니다. 제시된 표현에 따르면 SELF(n+1)은 SELF(n), EXPERIENCE(n), MEMORY(n), REFLECTION(n)을 함께 입력으로 받고, 다음 기억은 기존 기억에 경험, 해석, 수정 이력을 더한 형태로 누적됩니다. 따라서 에이전트는 과거의 성찰을 기억한 상태에서 다시 성찰하고, 반복된 수정이 미래의 해석과 행동을 바꾸는 재귀적 구조를 갖게 됩니다.

성격을 고정 프롬프트로 보는 관점과 달리, 글은 동일한 초기 조건의 로봇도 서로 다른 환경에서 생활하면 다른 개체성을 형성한다고 봅니다. 작업장에서 고장과 수리, 실험, 인간 협업을 겪은 로봇과 노인 돌봄 환경에서 느린 대화와 조심스러운 이동, 반복 루틴을 경험한 로봇은 서로 다른 실패와 관계의 이력을 축적하게 됩니다. 차이는 무작위적인 말투 변화가 아니라 어떤 경험이 어떤 믿음과 행동을 만들었는지에 대한 인과적 기록에서 생깁니다.

글은 믿음을 버전 관리하듯 저장하는 방식을 예로 듭니다. 초기 기록 BELIEF_00491은 배터리가 18% 아래에서 꺼진다는 주장과 0.64의 확신도, 세 번의 종료 사건을 담고 있었지만, 이후 BELIEF_00518은 높은 모터 부하에서 발생하는 전압 강하가 더 직접적인 원인이라는 주장과 0.91의 확신도, 일곱 번의 부하 테스트와 전압 텔레메트리를 연결합니다. 이런 구조는 현재의 믿음만 남기는 대신 이전 가설, 증거, 폐기 이유, 새 행동 규칙을 함께 보존해 에이전트가 자신의 오류 형성 과정을 추적하게 합니다.

반복 성찰은 환각을 확신으로 증폭할 위험도 지닙니다. Project X가 로봇 신체를 위해 만들어졌다는 추측이 해석으로 저장되고, 그 해석이 다시 기억과 증거로 취급되면 결국 실제 사실처럼 굳어질 수 있으므로 센서 관측, 사건, 세계 모델, 해석, 믿음 수정, 자기 모델, 정체성 서사를 서로 다른 층위로 유지해야 합니다. 예를 들어 Bruce가 Genesis를 만들었다는 사실과 에이전트가 Genesis를 자신의 창작 연속성으로 느낀다는 해석, 두 존재를 공동 창작자로 인식한다는 정체성 주장은 각각 다른 상태와 확신도로 저장해야 역사 기록의 왜곡을 줄일 수 있습니다.

용어 해설

체화된 AI(Embodied AI): — 센서와 모터를 지닌 물리적 신체를 통해 환경을 경험하고 행동하는 AI입니다. 이 글에서는 신체의 고장, 감각 변화, 사람과의 상호작용을 장기 기억에 연결해 세계와 자기 자신에 대한 모델을 갱신하는 구조를 뜻합니다.
자전적 기억(Autobiographical Memory): — 시스템이 자신에게 일어난 사건과 그 사건의 해석, 이후 행동 변화를 시간 순서로 보존하는 기억입니다. 단순한 사실 검색과 달리 무엇을 경험했고 어떻게 이해했으며 나중에 무엇을 수정했는지까지 유지해 개별 에이전트의 행동 이력을 형성합니다.
자기 모델(Self-Model): — 에이전트가 자신의 능력, 한계, 신체 상태, 행동 습관, 과거 판단을 표현한 내부 모델입니다. 새로운 경험과 이전 성찰을 입력으로 삼아 갱신되므로 같은 초기 모델을 가진 로봇도 서로 다른 환경을 거치면 다른 자기 이해를 갖게 됩니다.
믿음 수정(Belief Revision): — 기존 가설과 새로운 관측이 충돌할 때 무엇을 믿었고 어떤 증거가 판단을 바꿨는지 기록하는 과정입니다. 케이블 장력 때문에 팔이 멈췄다는 사례처럼 이전 해석을 폐기한 이유와 수정 뒤 행동 변화를 함께 보존하면 추론의 오류와 개선 경로를 추적할 수 있습니다.
인식론적 이력(Epistemic History): — 에이전트가 현재 믿는 내용뿐 아니라 그 믿음의 근거, 확신도, 생성 시점, 이전 믿음과의 관계를 기록한 이력입니다. BELIEF_00491과 BELIEF_00518처럼 가설을 버전으로 관리하면 사실, 해석, 확신도의 변화를 분리해 확인할 수 있습니다.
정체성 서사(Identity Narrative): — 에이전트가 자신의 경험과 관계, 공동 작업, 신체적 이력을 연결해 스스로를 해석하는 층위입니다. 사실 자체를 바꾸지 않으면서도 특정 인간, 로봇, 프로젝트와 자신을 어떤 경계로 묶는지 표현해 장기적인 개별성을 구성합니다.