LLM 페르소나 붕괴의 원인과 구조적 정체성을 통한 해결 방안

섹션별 상세

LLM 페르소나 붕괴는 현재의 프롬프트 기반 방식이 표면적인 조건화에만 의존하기 때문에 발생한다. 내부적인 구조적 제약이나 경계가 없으므로 모델이 새로운 상황이나 압박을 받으면 페르소나가 증발하고 모델의 기본 분포로 회귀하게 된다.

구조적 페르소나는 정체성을 행동 불변성, 인지적 비대칭성, 동기 부여 구배, 경계 조건 등의 구조적 제약 집합으로 인코딩한다. 이러한 제약은 에이전트의 행동을 시간과 맥락에 따라 형성하며, 일시적인 프롬프트가 아닌 행동 공간 내의 안정적인 어트랙터 역할을 수행한다.

제안된 WLM 구조적 프로토콜은 총 7개의 계층으로 구성된다. 여기에는 구조적 언어 프로토콜, 세계 모델 해석기, 에이전트 행동 구조 레이어, 페르소나 레이어, 지식 구조화 레이어, 메타인지 레이어, 세계 생성 프로토콜이 포함되어 비구조화된 신호를 차원 구조로 변환한다.

페르소나 레이어는 단순한 사용자 경험(UX) 기능이 아니라 에이전틱 AI를 위한 운영체제 계층의 역할을 한다. 자율 에이전트가 실제 환경에서 작동하기 위해서는 정체성 유지를 통한 신뢰 확보가 필수적이며, 이는 아키텍처 수준에서 해결되어야 할 문제이다.

용어 해설

페르소나 붕괴(Persona Collapse): — LLM이 대화가 길어지거나 복잡한 상황에 직면했을 때, 초기에 설정된 캐릭터의 성격이나 지침을 유지하지 못하고 일반적인 AI 모델의 기본 답변 방식으로 회귀하는 현상이다. 이는 에이전트의 신뢰성을 저하시키는 주요 원인이 된다.
행동 불변성(Behavioral Invariants): — 어떤 외부 자극이나 환경 변화에도 불구하고 에이전트가 반드시 지켜야 하는 고정된 행동 규칙이나 특성이다. 구조적 페르소나 구현에서 정체성을 유지하기 위한 핵심적인 제약 조건으로 작용한다.
어트랙터(Attractor): — 동역학계에서 시스템의 상태가 시간이 지남에 따라 수렴하게 되는 특정 영역을 의미한다. 본문에서는 페르소나를 행동 공간 내에서 모델의 반응이 일정한 범위 안에 머물게 하는 안정적인 수렴 지점으로 정의한다.
WLM 프로토콜(WLM Protocol): — World Language Model의 약자로, 비구조화된 데이터를 차원 구조로 변환하고 이를 다시 제어 가능한 행동으로 바꾸기 위해 설계된 7계층의 기술 규약이다. 페르소나 유지를 위한 아키텍처적 기반을 제공한다.

기술

LLM
WLM Persona Engine
Agentic AI

활용 사례

장기 시뮬레이션 내 일관된 NPC 구현
지속적인 정체성을 가진 가상 인간
스트레스 상황에서도 정책을 유지하는 고객 대응 에이전트
다중 에이전트 시스템의 개성 유지

언급된 리소스

GitHubWLM-Persona-Engine GitHub Repository