LiteLLM 공급망 공격으로 본 AI 시스템 가시성의 중요성

섹션별 상세

01

LiteLLM은 100개 이상의 LLM 공급업체를 연결하는 게이트웨이로, 이번 공급망 공격을 통해 자격 증명 탈취용 악성 코드가 배포됐다. 공격자는 패키지 업데이트 과정에 malware를 심어 수만 명의 사용자에게 노출시켰으며, 실제 채용 스타트업 Mercor 등에서 소스 코드와 데이터 유출 피해가 발생했다. 이는 AI 인프라의 핵심 구성 요소가 공격받을 때의 파급력을 보여준다.

02

전통적인 SCA 도구는 종속성 그래프 내의 취약점은 잘 찾아내지만, AI 모델이 런타임에 어떤 도구와 API에 접근하는지는 알 수 없다. LiteLLM과 같은 라이브러리는 단순 코드가 아니라 모델과 외부 시스템 사이의 실행 경로(Execution Path)에 위치하여 데이터 흐름을 중개한다. 패키지 버전만 확인하는 방식으로는 모델 라우팅이나 에이전트의 권한 오남용을 막을 수 없다.

03

Evo AI-SPM은 코드 내에 흩어진 AI 사용 사례를 추적하여 모델 게이트웨이, 공급업체, 연결된 API를 매핑한 AI-BOM을 구축한다. 이를 통해 개발자도 모르게 사용 중인 'Shadow AI'를 발견하고 조직 차원의 거버넌스 정책을 적용할 수 있다. 단순 취약점 알림을 넘어 실제 노출된 위험의 맥락을 이해하게 해준다.

Evo AI-SPM 대시보드 스크린샷 — Screenshot이 이미지는 Evo AI-SPM이 코드 내의 AI 구성 요소를 식별하고 모델 공급업체(OpenAI, Anthropic 등)와의 연결 관계를 시각화하는 방식을 보여준다. 사용자는 이를 통해 특정 라이브러리가 어떤 모델과 API에 접근하고 있는지 런타임 맥락에서 파악할 수 있다.

04

AI 애플리케이션 보안은 종속성 관리와 시스템 가시성 확보라는 두 가지 축이 병행되어야 한다. Snyk Open Source가 취약한 버전을 찾아내면, Evo AI-SPM은 해당 패키지가 시스템 내에서 어떤 역할을 수행하고 무엇과 연결되었는지 분석한다. 이 통합된 접근 방식만이 복잡해지는 AI 공급망 위험을 실질적으로 통제할 수 있는 수단이다.

기술

LiteLLM
Snyk Open Source
Evo AI-SPM

활용 사례

AI 공급망 취약점 탐지
Shadow AI 식별 및 거버넌스
AI 시스템 가시성 확보

언급된 리소스

DemoEvo AI-SPM Demo