AgentContract: AI 에이전트의 행동을 제어하고 강제하기 위한 오픈 명세

작성자가 직접 프로젝트를 소개했으며, 에이전트의 제어 가능성에 대한 실무적인 접근 방식에 대해 긍정적인 관심이 예상된다.

• 에이전트 배포 전 YAML 계약을 작성하여 시스템 프롬프트 유출과 같은 보안 취약점을 사전에 방어하라.
• 비용 제한(exceed_cost) 조항을 설정하여 예상치 못한 API 비용 폭증을 방지하라.

Behavioral Contract

— AI 에이전트가 준수해야 할 규칙과 제약 조건을 명시적으로 정의한 명세서이다. 시스템 프롬프트 유출 방지나 비용 제한 같은 구체적인 행동 지침을 포함하며, 실행 시점에 이를 강제하여 에이전트의 신뢰성을 높이는 역할을 한다.

Runtime Enforcement

— 프로그램이 실행되는 도중에 실시간으로 규칙 위반 여부를 감시하고 제어하는 메커니즘이다. 에이전트의 출력이 생성된 직후 사용자에게 전달되기 전에 계약 위반을 감지하여 차단하거나 오류를 발생시킨다.

Deterministic Check

— LLM의 판단 없이 정규표현식, 스키마 검증, 비용 계산 등 명확한 로직으로 결과를 판별하는 방식이다. 매번 동일한 입력에 대해 동일한 결과를 보장하므로 LLM 기반 판단보다 빠르고 비용 효율적이며 신뢰도가 높다.