LiteLLM 공급망 공격으로 본 AI 시스템 가시성의 중요성

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

LiteLLM 오픈소스 패키지에 자격 증명 탈취용 malware가 삽입된 공급망 공격이 발생하여 수만 건의 다운로드와 데이터 유출 피해가 보고됐다. 기존의 Software Composition Analysis(SCA)는 취약한 패키지 식별에는 유효하지만, 모델 게이트웨이가 연결된 API, 도구, 에이전트 워크플로 등 런타임에서의 복잡한 상호작용까지는 파악하지 못한다. 이를 해결하기 위해 Evo AI-SPM은 AI 구성 요소 간의 연결 지도를 그리는 AI-BOM을 생성하여 'Shadow AI'를 식별하고 시스템 전반의 보안 가시성을 제공한다. 결과적으로 AI 보안은 단순 패키지 패치를 넘어 모델 라우팅과 실행 경로 전체를 제어하는 방향으로 진화해야 한다.

배경

Software Composition Analysis(SCA)의 기본 개념, LLM API 및 모델 게이트웨이 작동 원리, 공급망 공격(Supply Chain Attack)에 대한 이해

대상 독자

AI 애플리케이션 보안 담당자 및 플랫폼 엔지니어

의미 / 영향

이 사건은 AI 모델 게이트웨이가 보안의 핵심 병목점이 될 수 있음을 시사한다. 단순한 라이브러리 업데이트를 넘어 AI 시스템 전체의 데이터 흐름과 권한을 관리하는 AI-SPM의 도입이 기업 보안의 필수 요소로 자리 잡을 것이다.

섹션별 상세

LiteLLM은 100개 이상의 LLM 공급업체를 연결하는 게이트웨이로, 이번 공급망 공격을 통해 자격 증명 탈취용 악성 코드가 배포됐다. 공격자는 패키지 업데이트 과정에 malware를 심어 수만 명의 사용자에게 노출시켰으며, 실제 채용 스타트업 Mercor 등에서 소스 코드와 데이터 유출 피해가 발생했다. 이는 AI 인프라의 핵심 구성 요소가 공격받을 때의 파급력을 보여준다.

전통적인 SCA 도구는 종속성 그래프 내의 취약점은 잘 찾아내지만, AI 모델이 런타임에 어떤 도구와 API에 접근하는지는 알 수 없다. LiteLLM과 같은 라이브러리는 단순 코드가 아니라 모델과 외부 시스템 사이의 실행 경로(Execution Path)에 위치하여 데이터 흐름을 중개한다. 패키지 버전만 확인하는 방식으로는 모델 라우팅이나 에이전트의 권한 오남용을 막을 수 없다.

Evo AI-SPM은 코드 내에 흩어진 AI 사용 사례를 추적하여 모델 게이트웨이, 공급업체, 연결된 API를 매핑한 AI-BOM을 구축한다. 이를 통해 개발자도 모르게 사용 중인 'Shadow AI'를 발견하고 조직 차원의 거버넌스 정책을 적용할 수 있다. 단순 취약점 알림을 넘어 실제 노출된 위험의 맥락을 이해하게 해준다.

Evo AI-SPM 대시보드 스크린샷 — Screenshot이 이미지는 Evo AI-SPM이 코드 내의 AI 구성 요소를 식별하고 모델 공급업체(OpenAI, Anthropic 등)와의 연결 관계를 시각화하는 방식을 보여준다. 사용자는 이를 통해 특정 라이브러리가 어떤 모델과 API에 접근하고 있는지 런타임 맥락에서 파악할 수 있다.

AI 애플리케이션 보안은 종속성 관리와 시스템 가시성 확보라는 두 가지 축이 병행되어야 한다. Snyk Open Source가 취약한 버전을 찾아내면, Evo AI-SPM은 해당 패키지가 시스템 내에서 어떤 역할을 수행하고 무엇과 연결되었는지 분석한다. 이 통합된 접근 방식만이 복잡해지는 AI 공급망 위험을 실질적으로 통제할 수 있는 수단이다.

실무 Takeaway

LiteLLM과 같은 모델 게이트웨이를 사용할 때는 패키지 보안뿐만 아니라 해당 게이트웨이가 접근할 수 있는 API 키와 내부 시스템 권한을 최소화해야 한다.
SCA 도구로 취약점을 패치한 후에는 반드시 해당 라이브러리가 중개하던 모델 라우팅 경로와 에이전트 워크플로에 이상 징후나 데이터 유출이 없었는지 런타임 맥락에서 점검해야 한다.
조직 내 Shadow AI 확산을 방지하기 위해 AI-SPM 도구를 활용하여 코드베이스 전체의 AI 구성 요소와 외부 연결 상태를 시각화한 AI-BOM을 상시 유지해야 한다.

언급된 리소스

DemoEvo AI-SPM Demo