Mirror Box Orchestrator (MBO): 로컬 및 프론티어 모델을 활용한 다중 벤더 AI 코딩 에이전트

작성자가 직접 개발한 시스템에 대해 아키텍처 백서를 공유하며 기술적 논의를 제안했으며, 로컬 모델을 실무적인 워크플로에 통합한 방식에 대해 긍정적인 관심이 예상된다.

• 비용 절감을 위해 의도 분류와 같은 단순 태스크는 Ollama 기반 로컬 모델로 라우팅하는 설계를 고려하라.
• 에이전트의 정확도를 높이려면 서로 다른 벤더의 모델(예: OpenAI vs Anthropic)을 교차 검증에 활용하라.

올라마(Ollama)

— 로컬 환경에서 대규모 언어 모델을 간편하게 실행하고 관리할 수 있게 돕는 오픈소스 도구이다. MBO 시스템 내에서 의도 분류나 패치 생성과 같은 비용 민감형 작업을 로컬에서 처리하기 위한 핵심 엔진으로 활용된다.

적대적 검토(Adversarial Review)

— 하나의 모델이 생성한 결과물을 다른 독립적인 모델이 비판적으로 검증하는 프로세스이다. 단일 모델이 자신의 오류를 스스로 찾아내지 못하는 자기 확증 편향을 방지하여 에이전트의 신뢰성을 높이는 데 필수적이다.

의도 분류(Intent Classification)

— 사용자의 입력 텍스트를 분석하여 어떤 작업을 수행하려는지 범주를 나누는 자연어 처리 기법이다. MBO에서는 이 단계를 로컬 모델에 할당하여 전체 파이프라인의 비용을 절감하고 라우팅 효율을 높인다.

샌드박스 실행(Sandboxed Execution)

— 외부 시스템이나 네트워크로부터 격리된 안전한 가상 환경에서 코드를 실행하는 방식이다. AI 에이전트가 생성한 코드가 실제 시스템에 해를 끼치지 않도록 사전에 동작을 검증하는 보안 장치 역할을 한다.