macOS용 로컬 군집 지능 엔진 구축: 다수의 AI 에이전트가 의사결정을 토론하는 시스템

커뮤니티 반응

사용자들은 로컬 구동 방식에 큰 관심을 보였으며, 특히 의료 진단 사례의 결과에 대해 긍정적인 반응을 보였다.

01찬성다수

개인 정보 보호와 비용 측면에서 로컬 LLM을 활용한 멀티 에이전트 시스템이 클라우드 기반보다 우월하다.

Apple Silicon 기반의 로컬 추론을 위해 MLX 프레임워크를 채택했다. 이를 통해 외부 API 키나 클라우드 연결 없이도 데이터 유출 걱정 없이 개인용 Mac에서 수백 개의 에이전트 상호작용을 시뮬레이션할 수 있는 환경을 구축했다.

의사결정 시나리오에 따라 시스템이 자동으로 의료, 금융, 창의적 영역 등 성격을 판단하고 4~6명의 적합한 페르소나를 생성한다. 각 에이전트는 고유한 배경과 소통 스타일을 가지며, 다회차 토론을 통해 서로의 주장을 검증하고 반박하는 과정을 거친다.

에이전트의 신념 수치(Conviction) 추적 시스템을 도입했다. 토론 중 논리적인 반박을 강하게 받으면 에이전트의 확신이 낮아지고 결국 침묵하게 되는 메커니즘을 통해 실제 인간의 토론 역학을 모사했다.

시뮬레이션 중간에 발생하는 무작위 이벤트 기능을 통해 에이전트들이 예상치 못한 상황 변화에 반응하도록 설계했다. 또한 ReACT 스타일의 보고서 생성 기능을 포함하여 토론 결과뿐만 아니라 그 과정에서의 논리적 추론 근거를 그래프 탐색과 인터뷰 형식으로 제공한다.

MLX추천

Apple Silicon에서의 로컬 LLM 추론 및 학습

MiroFish중립링크

오픈소스 군집 지능 엔진 (영감의 원천)