LLM 기반 멀티 에이전트 시스템에서의 마음 이론 및 내부 신념 평가

섹션별 상세

LLM 기반 멀티 에이전트 시스템에서 협업 지능을 높이기 위해 마음 이론(ToM)과 내부 신념 메커니즘의 도입이 시도되고 있으나, 모델 성능의 가변성으로 인해 실제 효과는 일정하지 않다.

연구진은 ToM, BDI(Belief-Desire-Intention) 모델, 그리고 논리적 정합성을 확인하기 위한 심볼릭 솔버(Symbolic Solver)를 결합한 새로운 멀티 에이전트 아키텍처를 설계했다.

제안된 아키텍처는 에이전트가 다른 에이전트의 상태를 추론하고 자신의 내적 신념을 유지하며, 이를 심볼릭 솔버를 통해 논리적으로 검증함으로써 의사결정의 정확도를 높이도록 구성되었다.

다양한 LLM을 대상으로 자원 할당 문제(Resource Allocation Problem) 환경에서 벤치마크를 수행한 결과, 인지 메커니즘의 추가가 성능에 미치는 영향은 사용된 LLM의 기본 성능과 밀접하게 연관되어 있음이 밝혀졌다.

이 연구는 LLM의 추론 능력과 인지적 아키텍처 간의 상호작용을 체계적으로 평가함으로써, 더 정교한 협업 AI 시스템 구축을 위한 이론적 및 실천적 토대를 제공한다.

마음 이론(Theory of Mind): — 타인의 의도, 신념, 욕구 등 정신 상태를 이해하고 예측하는 인지 능력이다. 멀티 에이전트 시스템에서 에이전트가 다른 에이전트의 행동을 예측하고 협업하는 데 필수적인 요소로 간주된다.
신념-욕구-의도 모델(BDI Model): — 에이전트의 지능적 행동을 신념(Belief), 욕구(Desire), 의도(Intention)라는 세 가지 요소로 모델링하는 소프트웨어 아키텍처다. 에이전트가 목표를 설정하고 계획을 실행하는 논리적 프레임워크를 제공한다.
심볼릭 솔버(Symbolic Solver): — 수학적 기호나 논리식을 사용하여 문제를 해결하는 소프트웨어 도구다. LLM의 확률적 추론을 보완하여 엄격한 논리적 규칙에 따른 검증과 정확한 결론 도출을 돕는다.

마음 이론(Theory of Mind): — 타인의 의도, 신념, 욕구 등 정신 상태를 이해하고 예측하는 인지 능력이다. 멀티 에이전트 시스템에서 에이전트가 다른 에이전트의 행동을 예측하고 협업하는 데 필수적인 요소로 간주된다.
신념-욕구-의도 모델(BDI Model): — 에이전트의 지능적 행동을 신념(Belief), 욕구(Desire), 의도(Intention)라는 세 가지 요소로 모델링하는 소프트웨어 아키텍처다. 에이전트가 목표를 설정하고 계획을 실행하는 논리적 프레임워크를 제공한다.
심볼릭 솔버(Symbolic Solver): — 수학적 기호나 논리식을 사용하여 문제를 해결하는 소프트웨어 도구다. LLM의 확률적 추론을 보완하여 엄격한 논리적 규칙에 따른 검증과 정확한 결론 도출을 돕는다.