되돌릴 수 없는 작업
이메일 발송, 데이터 삭제, 결제 실행 등 한 번 실행되면 시스템 외부나 사용자에게 직접적인 영향을 미쳐 취소가 어려운 작업을 의미한다. 에이전트 안전성 평가에서 가장 주의 깊게 관리해야 하는 지표이다.
AI가 사람보다 더 자주 질문한다? Anthropic의 에이전트 사용 패턴 분석