본문으로 건너뛰기
Databricks Blog조회 3회

Databricks AI 보안 프레임워크(DASF) 에이전트 AI 확장판 발표

Databricks가 자율형 AI 에이전트의 보안 리스크를 관리하기 위해 35개의 새로운 위험 요소와 6개의 통제 항목을 추가한 DASF 에이전트 AI 확장판을 공개했다.

섹션별 상세

01
DASF v3.0은 에이전트 AI를 13번째 핵심 구성 요소로 추가하며 자율 시스템의 특수성을 반영한 보안 체계를 구축했다. 기존 RAG 시스템이 주로 읽기 전용 모드로 작동하는 것과 달리, 에이전트는 API 호출 및 코드 실행 등 능동적 조치를 취하므로 'Discovery and Traversal'과 같은 새로운 리스크가 발생한다.
엔드투엔드 AI 시스템의 13가지 표준 구성 요소와 각 단계별 보안 리스크 및 통제 지점을 나타낸 다이어그램이다.
DiagramAgentic AI가 13번째 구성 요소로 추가된 전체 AI 시스템 아키텍처를 보여준다. 데이터 준비부터 모델 관리, 서빙 인프라, 그리고 새롭게 추가된 에이전트 레이어까지 각 단계에서 발생하는 리스크의 수와 보안 통제(DataSecOps, ModelSecOps, DevSecOps)의 위치를 시각화하여 프레임워크의 구조를 설명한다.
02
에이전트 보안의 핵심 위협으로 'Lethal Trifecta(치명적 3요소)'를 정의했다. 이는 민감 데이터 접근 권한, 신뢰할 수 없는 입력 처리 능력, 외부 상태 변경 권한이 동시에 존재할 때 발생하며, 간접 프롬프트 인젝션을 통해 에이전트가 공격자의 대리인으로 변질될 수 있음을 경고한다.
03
리스크 분류 체계는 에이전트 코어(추론 및 메모리), MCP 서버(도구 인터페이스), MCP 클라이언트(연결 계층)의 세 가지 하위 구성 요소로 세분화됐다. 메모리 오염(Memory Poisoning), 도구 정의 주입(Tool Poisoning), 클라이언트 측 코드 실행 등 각 단계별 구체적인 공격 시나리오 35가지를 명시했다.
04
자율 시스템 보호를 위한 6가지 핵심 통제 항목을 제시했다. 도구 사용 시 최소 권한 부여(Least Privilege), 고위험 작업에 대한 인간의 개입(Human-in-the-loop), 격리된 샌드박스 환경에서의 코드 실행, AI Gateway를 통한 가드레일 적용, 그리고 에이전트의 사고 과정을 기록하는 추론 관측성(Observability of thought)이 포함된다.
05
멀티 에이전트 시스템에서의 상호작용 리스크를 다루었다. 에이전트 간 통신 오염(Communication Poisoning)이나 모니터링 범위를 벗어난 로그 에이전트(Rogue Agents) 발생 가능성을 지적하며, 규모가 커질수록 복합적으로 작용하는 보안 위협에 대한 방어 전략을 포함했다.

용어 해설

에이전트 AI(Agentic AI)
— 단순한 텍스트 생성을 넘어 도구 사용, 코드 실행, API 호출 등을 통해 스스로 계획을 세우고 실행하는 자율형 AI 시스템이다. 목표 달성을 위해 외부 환경과 상호작용하며 실시간 의사결정을 내리는 능력을 갖추고 있어 기존 RAG 시스템보다 높은 자율성을 가진다.
모델 컨텍스트 프로토콜(Model Context Protocol)
— AI 에이전트가 엔터프라이즈 도구, 데이터 소스 및 서비스와 안전하게 연결될 수 있도록 돕는 개방형 표준 프로토콜이다. 에이전트(클라이언트)와 도구(서버) 간의 인터페이스를 표준화하여 다양한 에이전트가 동일한 도구 생태계를 공유할 수 있게 한다.
최소 권한 원칙(Least Privilege)
— 보안 사고의 피해 범위를 최소화하기 위해 사용자나 시스템에 특정 작업을 수행하는 데 필요한 최소한의 권한만 부여하는 보안 전략이다. 에이전트 AI 환경에서는 에이전트가 불필요한 데이터베이스나 API에 접근하지 못하도록 도구별 권한을 엄격히 제한하는 데 사용된다.
샌드박싱(Sandboxing)
— 외부 시스템이나 네트워크로부터 격리된 안전한 가상 환경에서 프로그램을 실행하는 기술이다. 에이전트가 생성한 코드를 샌드박스 내에서 실행하면, 해당 코드가 악의적이거나 오류를 포함하더라도 실제 운영 시스템이나 데이터에 영향을 미치지 않도록 보호할 수 있다.
프롬프트 인젝션(Prompt Injection)
— 사용자 입력이나 외부 데이터를 통해 모델의 원래 지침을 무시하고 공격자가 의도한 악의적인 명령을 실행하게 만드는 공격 기법이다. 에이전트 시스템에서는 간접 프롬프트 인젝션을 통해 에이전트가 권한이 없는 도구를 실행하거나 데이터를 유출하도록 조작될 위험이 있다.

기술

  • Databricks
  • Unity Catalog
  • Model Context Protocol (MCP)
  • AI Gateway
  • Agent Bricks Framework

활용 사례

  • 자율형 AI 에이전트 보안 아키텍처 설계
  • 엔터프라이즈 도구 연결 보안 강화
  • 멀티 에이전트 시스템 모니터링 및 감사
AI 분석 전체 내용 보기

AI 요약 · 북마크 · 개인 피드 설정 — 무료

출처 · 인용 안내

원문 발행 2026. 03. 21.수집 2026. 03. 21.출처 타입 RSS

인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.