연속성 계층: 지능이 앞으로 나아가기 위해 아키텍처가 필요한 이유

현재의 AI는 세션이 종료되거나 컨텍스트 윈도우가 가득 차면 이전의 이해를 모두 잃어버리는 '건망증' 문제를 안고 있습니다. 이 논문은 단순한 데이터 저장을 넘어 상황을 재구성하여 지능의 연속성을 보장하는 새로운 인프라 계층인 Continuity Layer를 제안하여 AI의 구조적 한계를 해결하고자 합니다.

현재 AI의 핵심인 Transformer 아키텍처는 고정된 가중치를 가진 프로세서 역할을 수행하며, 모든 상태 정보는 휘발성인 컨텍스트 윈도우에 의존한다. 세션이 종료되면 이 윈도우가 비워지므로 AI는 매번 동일한 정보를 처음부터 다시 해석해야 하는 비효율을 겪는다. 이는 지능이 축적될 '안정적인 장소'가 없기 때문에 발생하는 구조적 문제이다.

이 논문은 이를 해결하기 위해 '재구성(Reconstruction)' 개념을 도입한다. 기존의 RAG나 벡터 데이터베이스가 과거의 파편화된 텍스트를 단순히 검색(Retrieval)하여 붙여넣는 방식이라면, 연속성 계층은 입력 시점에 의미를 분해하여 저장하고 호출 시점에 현재 시점에서 '무엇이 참인가'를 계산하여 전달한다. 이는 임베딩 공간에서의 유사도 계산을 넘어 시간적 통화량(Temporal Currency)과 관계적 근접성을 곱하여 최적의 상태를 도출하는 원리이다.

결과적으로 AI는 매 세션마다 과거 데이터를 다시 읽고 해석할 필요 없이, 계층이 미리 파악해 둔 '정리된 상황 정보'를 즉시 활용할 수 있게 된다. 이는 모델의 크기를 키우는 방식으로는 해결할 수 없었던 장기 기억과 상황 인지 능력을 저사양 하드웨어에서도 효율적으로 구현할 수 있게 함을 의미한다.

전체 접근 방식은 '쓰기 시점의 분해(Decomposition at write time)'와 '읽기 시점의 재구성(Reconstruction at read time)'으로 요약된다. 시스템에 새로운 상호작용이 입력되면 이를 원문 그대로 저장하지 않고 에피소드, 감정, 시간, 관계, 도식이라는 5가지 독립적인 추적(Traces)으로 나누어 인덱싱한다.

재구성 메커니즘은 사용자의 질문이 들어올 때 7가지 차원의 변수를 곱하여 최종 점수를 산출한다. [임베딩 유사도, 술어 일치도, 시간적 통화량, 빈도, 중요도, 신뢰도, 관계적 근접성 값을 입력으로] → [각 요소들을 합산이 아닌 곱셈 연산으로 처리하여] → [가장 높은 점수를 가진 추적들을 결합해] → [현재 시점에 가장 유효한 상황의 재구성본을 출력한다]. 곱셈 연산을 사용하는 이유는 시간적 통화량이 낮은(오래되어 무효해진) 정보가 단순히 의미적 유사도가 높다는 이유로 전체 결과를 오염시키는 것을 방지하기 위함이다.

구현 측면에서 이 계층은 모델 독립적으로 설계되어 GPT, Claude, Llama 등 어떤 모델과도 SDK 형태로 연결될 수 있다. 또한 '물리로서의 개인정보 보호(Privacy as Physics)' 원칙에 따라 모든 데이터 처리가 로컬 장치 내에서만 이루어지도록 아키텍처 수준에서 강제한다.

ATANT 벤치마크를 통한 실험 결과, 제안된 연속성 계층의 참조 구현체는 8GB GPU 환경에서 매우 높은 정확도를 기록했다. 250개의 이야기로 구성된 코퍼스에서 개별 모드(Isolated mode) 기준 100%의 정확도(1,835개 질문 중 1,835개 정답)를 달성했다.

누적 모드(Cumulative mode) 실험에서도 뛰어난 성능을 보였다. 50개 이야기 누적 시 100%, 250개 이야기 전체 누적 시에도 96%의 정확도를 유지하며 긴 시계열 데이터에서도 지능의 연속성이 깨지지 않음을 입증했다. 이는 현재의 대형 언어 모델들이 장기 세션에서 성능이 급격히 저하되는 것과 대조적인 결과이다.

효율성 분석 측면에서는 수십억 달러가 소요되는 모델 재학습 없이도, 저렴한 상용 하드웨어에서 작동하는 작은 계층만으로 모델의 유용성을 수십 배 향상시킬 수 있음을 확인했다. 이는 지능의 병목 현상이 연산 능력이 아닌 '지능의 리셋'에 있음을 시사한다.

연속성 계층의 아키텍처는 지능 레이어(LLM) 하단에 위치하는 독립적인 인프라로 설계되었다. 핵심은 DTCM(Decomposed Trace Convergence Memory)으로, 이는 기존의 행(Row) 단위 저장이 아닌 '재구성된 상황(Reconstructed Situation)'을 기본 단위로 삼는다. 수학적으로는 점수 산출 시 다차원 벡터의 원소별 곱을 통해 시간적 감쇠와 맥락적 중요도를 동시에 반영한다.

기존의 Continual Learning이 모델 가중치의 파괴적 망각을 방지하는 데 집중했다면, 본 연구는 사용자 수준의 상태(State) 유지를 별도의 계층으로 분리했다는 점에서 기술적 차별점을 갖는다. 이는 LoRA와 같은 어댑터 방식이 정적이고 실시간 업데이트가 어려운 한계를 극복하기 위해, 향후 모델 가중치의 일부를 실시간으로 업데이트하는 'Weight-level Continuity'로의 확장을 염두에 두고 있다.

거버넌스 아키텍처는 기술적 구현과 분리될 수 없는 요소로 포함되었다. 데이터가 장치를 떠나지 않도록 하는 하드웨어적 제약과 창업자 제어 투표권을 통한 데이터 주권 보장은, 연속성 계층이 가질 수 있는 강력한 개인 정보 접근 권한에 대한 기술적 방어 기제로 작용한다.