AI 에이전트를 위한 권한 게이트웨이: Veto

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

AI 에이전트의 자율성이 높아짐에 따라 시스템 파괴 명령 실행과 같은 보안 리스크가 증가하고 있다. Veto는 이러한 문제를 해결하기 위해 AI 에이전트와 시스템 사이에서 도구 호출을 가로채는 권한 게이트웨이 솔루션을 제공한다. 사용자는 규칙 기반 정책을 정의하여 특정 명령을 자동으로 차단하거나 사람의 승인을 받도록 설정할 수 있다. Claude Code 전용 후크와 LiteLLM 프록시 두 가지 방식을 지원하여 유연한 도입이 가능하다.

배경

Claude Code 사용 경험, LiteLLM 또는 API 프록시 개념, Python 환경 설정 지식

대상 독자

AI 코딩 에이전트를 프로덕션이나 개발 환경에서 안전하게 운영하려는 개발자 및 보안 팀

의미 / 영향

AI 에이전트의 자율적 도구 사용에 대한 가드레일 시장이 형성되고 있음을 보여준다. 특히 코딩 에이전트의 위험한 명령 실행을 차단하는 실무적인 보안 솔루션으로서, 기업의 AI 도입 장벽을 낮추는 역할을 할 것으로 기대된다.

섹션별 상세

Veto는 AI 코딩 에이전트의 도구 호출(Tool Call)을 실시간으로 가로채는 인터셉터 역할을 수행한다. Claude Code의 네이티브 후크를 사용하거나 LiteLLM 프록시의 가드레일로 작동하여, 에이전트가 명령을 실행하기 전에 미리 정의된 규칙에 따라 평가한다. 프로젝트 디렉토리 외부의 재귀적 삭제(rm -rf)와 같은 위험한 작업을 감지하면 즉시 실행을 거부한다.

규칙 기반 정책 시스템을 통해 도구 이름, 인자 패턴, 정규 표현식(Regex)을 기반으로 허용(Allow), 거부(Deny), 확인(Ask) 규칙을 설정할 수 있다. 모든 도구 호출은 즉시 평가되며, 일치하는 규칙이 없는 경우 AI 기반 스코어링 시스템이 위험도를 평가하여 결정한다. 비용 최적화를 위해 AI 평가 결과는 2단계 캐싱 시스템에 저장된다.

두 가지 통합 방식을 제공하여 보안 요구 사항에 맞춰 선택할 수 있다. 후크 방식은 가벼운 Python 스크립트를 Claude Code 권한 시스템에 연결하여 지연 시간 없이 작동하며, 프록시 방식은 LiteLLM을 통해 서버 측에서 강제로 집행하므로 개발자가 우회할 수 없는 강력한 보안을 제공한다. 프록시 방식은 스트리밍을 지원하여 텍스트 응답은 즉시 통과시키고 도구 호출만 버퍼링하여 검사한다.

bash

/plugin marketplace add damhau/veto-claude-plugin
/plugin install veto-linux

Claude Code에 Veto 플러그인을 설치하고 설정하는 명령어

bash

export ANTHROPIC_BASE_URL=https://proxy.vetoapp.io

LiteLLM 프록시를 사용하여 모든 API 호출을 Veto 게이트웨이로 라우팅하는 환경 변수 설정

팀 단위의 중앙 집중식 제어를 지원하여 개별 개발자의 로컬 설정 파일에 의존하지 않고 일관된 보안 정책을 적용한다. 모든 도구 호출과 결정 내역은 실시간 감사 로그(Audit Log)에 기록되며, SSE(Server-Sent Events) 스트림을 통해 실시간으로 모니터링할 수 있다.

실무 Takeaway

AI 에이전트의 시스템 접근 권한을 제한하기 위해 Veto의 규칙 기반 정책을 활용하면 rm -rf와 같은 파괴적인 명령 실행을 사전에 방지할 수 있다.
Claude Code를 사용하는 팀은 네이티브 후크를 설치하여 API 호출 지연 없이 실시간으로 에이전트의 동작을 감시하고 제어할 수 있다.
보안이 중요한 기업 환경에서는 LiteLLM 프록시 레이어를 도입하여 개발자가 보안 정책을 우회하지 못하도록 서버 측에서 강제 집행할 수 있다.

언급된 리소스

API DocsVeto Claude Plugin