자율형 멀티 에이전트 시스템의 환상과 실무적 한계

작성자의 실무 경험에 기반한 비판적 시각에 대해 대체로 공감하는 분위기이며, 에이전트의 자율성보다는 '도구로서의 활용'에 초점을 맞춰야 한다는 의견이 지배적입니다.

• 에이전트 시스템 설계 시 최대 단계를 10회 이내로 제한하여 루프에 빠지거나 비용이 폭주하는 것을 방지하라.
• 전체 코드베이스를 컨텍스트에 넣기보다 RAG를 통해 관련성 높은 코드 조각만 선별하여 제공하라.
• 에이전트의 결정 과정을 실시간으로 모니터링하고 인간이 승인하거나 수정할 수 있는 인터페이스를 반드시 구축하라.

Agentic System

— LLM이 단순히 텍스트를 생성하는 것을 넘어 도구 사용, 계획 수립, 실행 등을 자율적으로 수행하는 시스템이다. 목표를 달성하기 위해 스스로 단계를 나누고 외부 환경과 상호작용하며 문제를 해결하는 구조를 의미한다.

SWE-bench

— AI 모델이 실제 GitHub 이슈를 해결하는 능력을 평가하는 벤치마크이다. 코드 수정, 테스트 통과 등 실제 소프트웨어 개발 환경에서의 문제 해결 능력을 수치화하여 측정하는 지표로 활용된다.

Context Rot

— LLM의 컨텍스트 윈도우가 커질수록 입력된 정보 내의 노이즈가 증가하고 모델의 집중력이 떨어지는 현상이다. 너무 많은 정보를 한꺼번에 주입할 때 오히려 추론 정확도가 낮아지는 문제를 지칭한다.

Multi-agent Orchestration

— 서로 다른 역할을 가진 여러 AI 에이전트가 협업하도록 관리하고 조정하는 기술이다. 각 에이전트 간의 데이터 흐름, 실행 순서, 결과 통합 등을 제어하여 복잡한 작업을 수행하게 한다.