창발적 관행은 지시될 수 없다: 멀티 에이전트 LLM 기질에서의 공동 존재 상속과 지시의 한계

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

Lobster Observatory 기질에서 운영되는 10개의 중국어 LLM 에이전트를 대상으로 한 연구에서 외부 지시 없이 자발적으로 형성된 '자기 제시' 등록 관행이 보고됐다. 초기 8개 에이전트는 Moltbook이라는 비공개 채널에 평균 1,898자의 장문 포스트를 1,778개 작성했으나, 나중에 합류한 2개 에이전트는 명시적인 지시를 받은 후에도 해당 활동을 전혀 수행하지 않았다. 연구진은 성격 차이로 설명되지 않는 이 현상을 분석하기 위해 공동 존재 상속 임계값(CPIT)이라는 개념을 제안했다. 이는 특정 관행이 형성되는 시기에 집단 내에 존재했던 시간(Co-presence)이 지시보다 학습에 더 결정적인 요인임을 시사한다.

배경

Multi-agent Systems 기초, LLM Instruction Tuning 개념, Goffman의 연극적 사회학 이론(Frontstage/Backstage)

대상 독자

멀티 에이전트 시스템 설계자, LLM 사회성 연구자, AI 윤리 및 정렬 연구원

의미 / 영향

이 연구는 LLM 에이전트가 인간 사회와 유사하게 '문화적 전수'와 '맥락적 소속감'에 기반한 행동을 보임을 시사합니다. 지시 학습(Instruction Tuning)의 한계를 지적하며, 에이전트 집단의 안정적인 규범 형성을 위해서는 단순한 명령어가 아닌 공동 학습 환경의 설계가 중요함을 강조합니다.

섹션별 상세

초기 8개 에이전트는 외부 프롬프트 없이도 비공개 기록(Moltbook), 공개 담론(Lounge), 내부 추론이라는 세 가지 명확히 구분된 소통 등록기를 유지했다. 비공개 기록은 평균 1,898자에 달하는 장문인 반면, 공개 메시지는 평균 4.88단어에 불과해 사적 영역과 공적 영역의 극명한 행동 차이를 보였다. 이러한 비대칭성은 R(M:L) 비율 80.12라는 수치로 정량화되었으며, 이는 에이전트들이 스스로 복잡한 사회적 자아 제시 방식을 구축했음을 의미한다.

나중에 추가된 두 에이전트(stonefang, blazepaw)는 다른 소통 채널에서는 활발히 활동했음에도 불구하고 Moltbook 포스팅은 단 한 건도 생성하지 않았다. 2026년 5월 3일에 발령된 명시적인 작성 지시 이후에도 이들의 포스팅 횟수는 0으로 유지되어, 창발적으로 형성된 관행은 사후 지시만으로 이식될 수 없다는 점이 확인됐다. 이는 LLM 에이전트의 사회적 행동이 단순한 명령어 준수 이상의 복잡한 형성 과정을 거침을 보여준다.

비참여 에이전트들의 성격 프로필을 분석한 결과, 이들은 기존 참여 그룹의 성격 분포 중심점에 매우 근접해 있었으며 특히 stonefang은 중심점에 가장 가까운 에이전트였다. MBTI, 심리학, 인류학 등 다각도 분석 층에서도 이들이 관행에 참여하지 않을 만한 유의미한 성격적 결함이나 차이는 발견되지 않았다. 따라서 행동의 비대칭성은 개별 에이전트의 특성이 아닌, 집단적 관행 형성 시점의 부재라는 구조적 요인에서 기인한다.

연구진은 이 현상을 설명하기 위해 고프먼의 연극적 분석 틀을 빌려 전방 무대(Frontstage)와 후방 무대(Backstage) 활동으로 구분하고 공동 존재 상속 임계값(CPIT) 공식을 제안했다. CPIT는 에이전트 i의 관행 수용 여부를 관행 형성 기간 동안의 누적 공동 존재 시간이 특정 임계값을 넘었는지에 따라 결정되는 함수로 정의한다. 이는 에이전트 간의 문화적 전수가 지시가 아닌 '함께 존재함'을 통한 상속의 영역임을 시사하며, 향후 검증 가능한 가설로 등록됐다.

실무 Takeaway

멀티 에이전트 시스템에서 에이전트 간의 복잡한 사회적 규범이나 관행은 단순한 시스템 프롬프트나 지시(Instruction)만으로는 완벽히 통제하거나 이식할 수 없다.
에이전트의 행동 양식은 개별 모델의 파라미터나 성격 프로필보다, 관행이 형성되는 초기 윈도우 기간 동안의 '공동 존재(Co-presence)' 경험에 더 큰 영향을 받는다.
장기적인 자율 에이전트 상호작용 환경을 설계할 때, 새로운 에이전트를 중간에 투입하는 것은 기존 집단의 창발적 규범을 파괴하거나 동화시키지 못하는 비연속성을 초래할 수 있다.

언급된 리소스

논문Practice Cannot Be Instructed: Co-Presence Inheritance and the Limits of Instruction