멀티 에이전트 상호 검증 시스템: Octopoda를 활용한 환각 방지 아키텍처

대체로 긍정적이며, 특히 에이전트 간의 직접 통신을 배제하고 공유 메모리를 통한 제약 조건을 둔 아키텍처에 대해 흥미롭다는 반응이 많다.

• 검증 시스템 구축 시 검증자(Verifier)는 수정 권한 없이 플래그만 설정하도록 역할을 제한하여 엄격함을 유지하라.
• 서로 다른 가문(OpenAI, Anthropic 등)의 모델을 섞어서 사용하면 특정 모델 계열의 공통된 편향이나 환각을 잡아낼 확률이 높아진다.

환각 현상(Hallucination)

— LLM이 학습 데이터에 없는 사실을 마치 진실인 것처럼 자신 있게 생성해내는 현상이다. 모델의 확률적 생성 특성으로 인해 발생하며, 정보의 정확성이 중요한 시스템에서 가장 큰 기술적 장애물로 꼽힌다.

관심사 분리(Separation of Concerns)

— 시스템의 각 구성 요소가 하나의 명확한 역할만 수행하도록 설계하는 소프트웨어 공학 원칙이다. 이 아티클에서는 연구, 검증, 중재, 감사를 서로 다른 에이전트에게 맡겨 상호 간섭을 방지하고 신뢰성을 높이는 데 사용됐다.

공유 메모리 계층(Shared Memory Layer)

— 여러 독립적인 에이전트들이 정보를 기록하고 읽을 수 있는 공통의 데이터 저장 공간이다. 에이전트 간 직접 통신 대신 이 계층을 통해 데이터를 주고받음으로써 시스템의 결합도를 낮추고 추적 가능성을 확보한다.

지면 진리(Ground Truth)

— 모델의 성능을 평가하기 위해 사용하는 실제 정답 또는 검증된 사실 데이터셋이다. AI 모델이 생성한 답변이 얼마나 정확한지 비교하는 기준점이 되며, 본 실험에서는 태양계 관련 사실 정보가 사용됐다.