TL;DR

이 레포지토리는 다중 에이전트 경제 시스템에서 언어행동을 실행 가능한 경제행동으로 정형화하고 명시적 제어면(OCL)을 통해 승인·재작성·차단·에스컬레이션을 수행하는 연구 코드베이스이다. 제어층은 역할 분해로 책임을 분리하고 risk-gating 점수와 tau 같은 임계치로 행동 결정을 자동화하며 모든 제어 판정은 감사 추적으로 기록되어 사후 분석과 기여도 귀속에 활용된다. AgenticPay와 연동된 벤치마크는 대화형 거래 환경에서 부분 관측 가시성 설정을 재현하여 제어 정책의 효과를 평가할 수 있게 한다. 실험 실행은 제공된 스크립트로 단일 에피소드, 배치 평가, tau 스윕을 수행할 수 있으며 레포는 활발한 연구 상태로 인터페이스와 설정이 진화할 가능성이 있다.

주요 기능

• 역할을 분해하여 계획·실행·에스컬레이션을 별도 경로로 처리한다.
• 행동 후보를 점수화하여 승인, 재작성, 차단, 에스컬레이션 중 자동 결정을 수행한다.
• 구조화된 감사 추적을 기록하여 사후 분석과 기여도 귀속을 지원한다.
• AgenticPay와 통합된 환경에서 다중 에이전트 거래 대화를 벤치마크로 실행한다.

어떻게 동작하는가

입력된 언어행동은 스키마화된 액션으로 파싱되어 실행 가능한 경제행동으로 매핑된다. 매핑된 후보 행동은 risk-gating 모듈에서 점수화되어 tau 같은 임계치에 따라 승인·재작성·차단·에스컬레이션으로 분기되며 에스컬레이션 시에는 재계획 로직이 개입한다. 모든 제어 결정은 감사 추적으로 기록되어 실험 평가와 사후 기여도 분석에 사용된다.

해결 문제

자연어로 표현된 에이전트 지시를 단순 실행으로 연결할 때 발생하는 신뢰성·제약 위반·책임 추적 문제를 해결한다. 이 레포지토리는 언어행동을 실행 가능한 경제행동으로 정형화하고 실행 전후의 위험을 게이팅하여 불안정한 행동을 차단하거나 재작성하고 필요시 에스컬레이션하는 제어면을 제공한다. 또한 부분 관측과 다중 턴 상호작용 환경에서 제어층의 성능을 평가할 수 있는 벤치마크 및 실험 스크립트를 포함한다.

차별점

• 명시적 제어면을 중심으로 역할 분해, 위험 게이팅, 감사 추적을 통합한 연구용 구현을 제공한다.
• 외부 협상 런타임인 AgenticPay와 어댑터를 통해 실제 거래 프로토콜과 연동되는 실험 환경을 제공한다.
• v0_structured부터 v2_hidden_intent까지 다양한 시야(visibility) 규칙을 갖춘 벤치마크로 부분 관측 설정을 재현할 수 있다.

사용 사례

• 대화형 거래나 협상 시나리오에서 언어 에이전트의 제안이 규칙·제약을 위반하지 않도록 실행 전후 검증 경로로 사용한다.
• 제어 강도(tau)와 같은 하이퍼파라미터를 스윕하여 안전성·생산성 트레이드오프를 연구하는 실험 플랫폼으로 사용한다.
• 다중 에이전트 환경에서 기여도 귀속과 감사 로그를 확보하여 정책 비교와 ablation 연구를 수행한다.

시작하기

파이썬 가상환경을 생성하고 로컬 패키지를 개발 모드로 설치한 뒤 외부 의존성인 AgenticPay를 별도로 설치하면 기본 환경 구성이 완료된다. OpenAI 기반 실행을 위해서는 OPENAI_API_KEY와 OPENAI_MODEL 환경변수를 설정한 다음 제공된 스크립트 예시(예: python scripts/run_demo.py --arm ocl_full --model gpt-5.4-mini --seed 42)로 단일 에피소드를 실행하면 OCL 통합 동작을 확인할 수 있다. 배치 평가나 tau 스윕은 run_batch_eval.py, run_tau_sweep.py 같은 스크립트를 사용하여 다수 에피소드와 다양한 tau 값을 자동으로 실행할 수 있다.

요구사항

• Python 실행 환경과 pip
• 외부 의존성 AgenticPay (별도 설치 필요)
• OpenAI 기반 실행 시 유효한 OPENAI_API_KEY와 OPENAI_MODEL 환경변수