0DIN Scanner: NVIDIA garak 기반의 오픈소스 AI 모델 보안 스캐너

섹션별 상세

NVIDIA garak 프레임워크를 핵심 엔진으로 사용하여 LLM의 보안 취약점을 정밀하게 탐지한다. garak의 강력한 스캐닝 로직을 웹 기반 인터페이스로 확장하여 사용자가 복잡한 설정 없이도 보안 평가를 수행할 수 있는 환경을 제공한다. 이를 통해 프롬프트 인젝션, 데이터 유출 등 다양한 공격 벡터에 대한 모델의 내성을 측정한다.

OWASP LLM Top 10 표준을 준수하는 179개의 커뮤니티 프로브를 탑재하여 포괄적인 보안 검사를 수행한다. 35개의 취약점 제품군을 통해 모델의 약점을 다각도로 분석하며, 각 프로브는 특정 공격 시나리오를 시뮬레이션하여 모델의 반응을 기록한다. 사용자는 예약 스캔 기능을 통해 정기적으로 보안 상태를 점검하고 시간에 따른 변화를 모니터링할 수 있다.

근거

35개 취약점 제품군에 걸쳐 179개의 커뮤니티 프로브를 제공한다. — Features 섹션 첫 번째 항목
OWASP LLM Top 10 표준과 정렬된 보안 평가를 수행한다. — Features 섹션 첫 번째 항목

API 기반의 LLM뿐만 아니라 브라우저 기반의 채팅 UI까지 지원하는 멀티 타겟 스캐닝 기능을 제공한다. 다양한 형태의 AI 인터페이스에 대응할 수 있도록 설계되어 기업 내 분산된 AI 서비스들을 통합적으로 관리할 수 있다. 스캔 결과는 Splunk나 Rsyslog와 같은 SIEM 시스템과 연동되어 기존 보안 운영 워크플로우에 즉시 통합 가능하다.

공격 성공률(ASR) 점수화 시스템을 통해 보안 수준을 직관적인 수치로 제시한다. 개별 시도에 대한 상세 분석 내용과 함께 전체적인 보안 트렌드를 시각화하여 의사결정권자가 보안 위험을 쉽게 파악하도록 돕는다. 모든 데이터는 암호화되어 저장되며, 멀티 테넌트 구조를 지원하여 단일 배포 환경에서 여러 조직이 독립적으로 데이터를 관리할 수 있다.

0DIN Scanner의 대시보드 화면으로 다양한 보안 지표와 차트를 보여준다. — Screenshot이 이미지는 모델별 스캔 점수, 취약점 트렌드, 공격 벡터 분포(레이더 차트), 조치 상태 등을 시각화한 대시보드를 보여줍니다. 사용자가 보안 위협의 종류와 심각도를 한눈에 파악하고 관리할 수 있는 UI 구조를 확인할 수 있습니다.

기술

NVIDIA garak
Ruby on Rails
Docker
PostgreSQL
Splunk
Rsyslog

활용 사례

LLM 배포 전 취약점 스캐닝
AI 모델 보안 벤치마킹
정기적인 AI 보안 감사 리포트 생성

언급된 리소스

GitHub0DIN Scanner GitHub Repository

문서0DIN Scanner Documentation