권한 토큰과 결정적 어텐션을 결합한 AI 에이전트 보안 아키텍처와 오픈소스 구현

이 글은 에이전트 보안에서 프롬프트의 '악의성' 판단보다 요청 자체가 해당 행위를 수행할 권한을 보유하는지를 검증하는 설계를 제안하며, 권한을 암호학적 케이퍼빌리티로 표현하고 그 진위와 범위를 집행 전에 확인하는 접근을 중심으로 한다.

구현은 Object-capability 모델과 Information-flow Control을 결합하고, 권한 판정 경로에는 학습된 가중치를 두지 않기 위해 Deterministic Hard Attention 기반의 결정적 연산을 사용하며 케이퍼빌리티 토큰의 서명 검증과 정보 흐름 제약이 입력 처리 단계에서 수행된다고 기술되었다. 글에서는 CPU의 NX bit와 유사한 원시적 권한 경계가 필요하다고 비유했으며, AgentDojo에서의 평가와 전체 오픈소스 코드가 포함되었다고 명시되었다.

이 접근은 입력 데이터를 권한으로 오인하는 위험을 근본적으로 줄이고 권한 판정의 검증 가능성을 높이는 잠재적 이점을 제공한다는 점에서 의미가 크다. 원문은 구현·평가·코드를 공개하여 재현과 검증을 가능하게 했으며, 작성자는 관련 분야의 기술적 피드백을 구하고 있어 추가적인 안전성 검증과 상호운용성 평가는 앞으로의 핵심 과제임이 분명하다.