Qualixar OS: AI 에이전트 오케스트레이션을 위한 범용 운영체제

AutoGen, CrewAI 등 파편화된 에이전트 프레임워크를 통합 관리할 수 있는 애플리케이션 계층의 운영체제를 제안한다. 12가지 실행 토폴로지와 다중 모델 라우팅을 통해 복잡한 멀티 에이전트 시스템의 신뢰성과 비용 효율성을 동시에 확보했다.

기존의 에이전트 프레임워크들은 특정 실행 모델에 종속되어 있어 서로 다른 프레임워크 간의 협업이나 통합 관리가 불가능했다. 이는 마치 운영체제 없이 개별 프로그램이 하드웨어를 직접 제어하던 초기 컴퓨팅 환경과 유사하다. Qualixar OS는 에이전트 실행을 추상화하여 프레임워크에 상관없이 동작하는 범용 런타임을 제공함으로써 이 문제를 해결한다.

핵심 원리는 에이전트 상호작용을 '토폴로지'라는 구조적 개념으로 정형화하는 것이다. 예를 들어 Attention 메커니즘이 토큰 간의 관계를 계산하듯, Qualixar OS는 12가지 토폴로지를 통해 에이전트 간의 메시지 흐름과 의사결정 구조를 정의한다. 여기에 강화학습(RL) 기반의 라우팅을 결합하여 각 작업에 가장 적합한 모델과 경로를 실시간으로 선택한다.

결과적으로 개발자는 특정 프레임워크의 문법에 얽매이지 않고 자연어만으로 에이전트 팀을 구성할 수 있다. 시스템은 내부적으로 비용과 성능의 Pareto 최적점을 찾아 모델을 할당하며, 다중 검증 로직을 통해 LLM이 평가 지표를 속이는 현상(Goodhart's Law)까지 방어하여 실제 작업 완수 능력을 극대화한다.

전체 시스템은 Presentation, Transport, Orchestration, Execution, Infrastructure, Persistence의 6개 계층으로 구성된다. 모든 작업은 12단계의 결정론적 파이프라인을 거치며, 여기에는 예산 확인, 메모리 주입, Forge 설계, 보안 검증, Swarm 실행, Judge 평가 등이 포함된다.

모델 라우팅은 3계층 구조를 따른다. 메타 레이어에서는 ϵ-greedy contextual bandit을 사용하여 현재 작업 컨텍스트에 가장 적합한 라우팅 전략을 선택한다. [작업 타입 해시와 예산 클래스를 입력으로] → [Q-table 기반의 가치 평가를 수행해] → [최적의 전략 인덱스를 출력하고] → [이 값은 전체 시스템의 비용 대비 품질 효율을 결정한다.]

품질 보증을 위해 Jensen-Shannon Divergence(JSD)를 활용한 드리프트 모니터링을 수행한다. [기준 점수 분포 P0와 현재 판정 분포 Pt를 입력으로] → [두 분포의 평균 M을 구하고 Kullback-Leibler 발산을 계산해] → [JSD 값을 산출하며] → [이 값이 임계치 Θ=0.877을 넘으면 판정 모델의 신뢰성이 하락한 것으로 간주하여 투표권을 정지시킨다.]

20개의 큐레이션된 작업으로 구성된 QOS 평가 스위트에서 100%의 정확도를 달성했다. 작업 난이도는 사실 회상부터 복잡한 추론까지 3단계로 구성되었으며, 모든 단계에서 완벽한 수행 능력을 보였다.

비용 효율성 측면에서 작업당 평균 비용은 $0.000039로 나타났다. 이는 라우팅 엔진이 정확도를 희생하지 않으면서도 GPT-5.4-mini와 같은 비용 효율적인 모델을 적재적소에 배치했기 때문이다. 평균 작업 소요 시간은 3,996ms를 기록했다.

다만, Forge-Judge-RL로 이어지는 자가 개선 루프에 대한 예비 평가에서는 통계적으로 유의미한 수렴(p=0.578)이 관찰되지 않았다. 이는 시뮬레이션 환경의 한계로 분석되며, 향후 전체 오케스트레이터 통합을 통한 추가 검증이 필요함이 확인됐다.

Qualixar OS는 애플리케이션 계층 운영체제로서 커널 수준의 자원 스케줄링보다는 오케스트레이션 프리미티브와 사용자 경험에 집중한다. A2A(Agent-to-Agent) 프로토콜을 표준 메시지 형식으로 채택하여 로컬 및 원격 에이전트 간의 투명한 교체를 지원한다.

자가 진화의 트릴레마(Self-evolution Trilemma)를 해결하기 위해 4가지 탈출구(Escape Hatches)를 설계했다. RL 보상 신호를 0.15 이하로 캡핑하여 급격한 성능 변화로 인한 불안정성을 방지하고, 보안 정책 평가를 자가 개선 루프 외부의 방화벽으로 격리하여 안전성을 확보한다.

메모리 시스템인 SLM-Lite는 4계층 인지 구조(Working, Episodic, Semantic, Procedural)를 가지며, 정보 기하학적 기초 위에 구축되었다. 신뢰도 점수 T = C · (1 - R) · D · V 공식을 통해 정보의 신뢰성을 계산하며, 여기서 C는 소스 신뢰도, R은 모순 점수, D는 시간적 쇠퇴, V는 교차 검증 합의도를 의미한다.

현재 아키텍처는 SQLite를 사용하는 단일 노드 실행으로 제한되어 있어 다중 머신 분산 실행이 불가능하다. 또한 Goodhart 탐지기는 신뢰할 수 있는 신호를 생성하기 위해 최소 50회의 평가 데이터가 누적되어야 하는 제약이 있다.