실행 거버넌스
AI 에이전트가 외부 환경과 상호작용할 때 적용되는 통제 및 관리 체계이다. 모델의 내적 판단에 의존하지 않고, 권한 범위 설정이나 중요 작업 전 승인 절차 강제와 같은 시스템적 제약을 통해 안전을 보장하는 메커니즘을 의미한다.
모델이 착하면 안전할까? 에이전트 사고를 막는 아키텍처 설계법