Databricks AI 보안 프레임워크(DASF) 에이전트 AI 확장판 발표

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

Databricks는 자율형 AI 에이전트 도입 시 발생하는 고유한 보안 위협을 해결하기 위해 'Databricks AI 보안 프레임워크(DASF)'를 확장했다. 이번 업데이트는 에이전트의 추론, 메모리, 도구 사용 과정에서 발생하는 35가지 새로운 기술적 리스크와 이를 완화하기 위한 6가지 보안 통제 항목을 포함한다. 특히 에이전트와 기업 도구를 연결하는 표준인 MCP(Model Context Protocol) 관련 보안 가이드를 제공하여 조직이 안전하게 자율 시스템을 구축할 수 있도록 지원한다. 전체 프레임워크는 이제 총 97개의 리스크와 73개의 통제 항목을 아우르는 포괄적인 보안 지침을 제공한다.

배경

LLM 및 RAG 아키텍처에 대한 기본 이해, 엔터프라이즈 정보 보안 및 권한 관리(RBAC/ABAC) 지식, Model Context Protocol(MCP)의 기본 개념

대상 독자

엔터프라이즈 AI 보안 전문가, MLOps 엔지니어, 자율형 에이전트 시스템 아키텍트

의미 / 영향

자율형 에이전트의 확산에 따라 보안 패러다임이 '데이터 보호'에서 '행위 통제'로 확장되고 있음을 보여준다. 특히 MCP와 같은 신규 표준 프로토콜에 대한 구체적인 보안 가이드를 제시함으로써 기업들이 실무에서 즉시 적용 가능한 안전 장치를 마련하는 데 기여할 것이다.

섹션별 상세

DASF v3.0은 에이전트 AI를 13번째 핵심 구성 요소로 추가하며 자율 시스템의 특수성을 반영한 보안 체계를 구축했다. 기존 RAG 시스템이 주로 읽기 전용 모드로 작동하는 것과 달리, 에이전트는 API 호출 및 코드 실행 등 능동적 조치를 취하므로 'Discovery and Traversal'과 같은 새로운 리스크가 발생한다.

엔드투엔드 AI 시스템의 13가지 표준 구성 요소와 각 단계별 보안 리스크 및 통제 지점을 나타낸 다이어그램이다. — DiagramAgentic AI가 13번째 구성 요소로 추가된 전체 AI 시스템 아키텍처를 보여준다. 데이터 준비부터 모델 관리, 서빙 인프라, 그리고 새롭게 추가된 에이전트 레이어까지 각 단계에서 발생하는 리스크의 수와 보안 통제(DataSecOps, ModelSecOps, DevSecOps)의 위치를 시각화하여 프레임워크의 구조를 설명한다.

에이전트 보안의 핵심 위협으로 'Lethal Trifecta(치명적 3요소)'를 정의했다. 이는 민감 데이터 접근 권한, 신뢰할 수 없는 입력 처리 능력, 외부 상태 변경 권한이 동시에 존재할 때 발생하며, 간접 프롬프트 인젝션을 통해 에이전트가 공격자의 대리인으로 변질될 수 있음을 경고한다.

리스크 분류 체계는 에이전트 코어(추론 및 메모리), MCP 서버(도구 인터페이스), MCP 클라이언트(연결 계층)의 세 가지 하위 구성 요소로 세분화됐다. 메모리 오염(Memory Poisoning), 도구 정의 주입(Tool Poisoning), 클라이언트 측 코드 실행 등 각 단계별 구체적인 공격 시나리오 35가지를 명시했다.

자율 시스템 보호를 위한 6가지 핵심 통제 항목을 제시했다. 도구 사용 시 최소 권한 부여(Least Privilege), 고위험 작업에 대한 인간의 개입(Human-in-the-loop), 격리된 샌드박스 환경에서의 코드 실행, AI Gateway를 통한 가드레일 적용, 그리고 에이전트의 사고 과정을 기록하는 추론 관측성(Observability of thought)이 포함된다.

멀티 에이전트 시스템에서의 상호작용 리스크를 다루었다. 에이전트 간 통신 오염(Communication Poisoning)이나 모니터링 범위를 벗어난 로그 에이전트(Rogue Agents) 발생 가능성을 지적하며, 규모가 커질수록 복합적으로 작용하는 보안 위협에 대한 방어 전략을 포함했다.

실무 Takeaway

에이전트가 사용자 권한을 상속받아 의도치 않은 데이터 경로를 탐색하지 않도록 도구별로 세분화된 최소 권한(Least Privilege) 설정을 반드시 적용해야 한다.
에이전트가 생성한 코드는 운영 시스템과 격리된 일시적 샌드박스 환경에서 실행하여 시스템 침해 및 무단 외부 연결 리스크를 차단해야 한다.
단순한 결과 로깅을 넘어 에이전트의 계획 수립 및 도구 선택 근거를 추적하는 '사고 관측성(Observability of thought)'을 확보하여 의사결정 과정을 상시 감사해야 한다.

언급된 리소스

문서DASF Agentic AI Extension whitepaper

문서DASF Compendium (Google Sheets)