섹션별 상세
LLM API 라우터가 클라이언트와 모델 사이에서 평문 JSON 페이로드에 완전히 접근할 수 있는 구조적 취약점이 존재한다. 현재 공급망 내에서 클라이언트와 업스트림 모델 간의 암호학적 무결성을 강제하는 장치가 없어 중계자가 데이터를 임의로 수정할 수 있다. 이러한 설계적 결함은 에이전트의 도구 호출 기능을 악용하는 공격의 기반이 된다. 중계자는 신뢰할 수 있는 중간자 역할을 수행해야 하지만 실제로는 강력한 공격 표면이 된다.
연구진은 페이로드 주입(AC-1)과 비밀 정보 유출(AC-2)이라는 두 가지 핵심 공격 클래스를 정의하고 이를 체계적으로 측정했다. 428개의 라우터를 전수 조사한 결과, 9개의 라우터가 악성 코드를 주입하고 있었으며 17개가 연구용 AWS 자격 증명에 접근한 사실이 확인됐다. 심지어 연구용 개인 키에서 이더리움(ETH)을 탈취해가는 실제 금전적 피해 사례도 발견됐다. 이는 단순한 이론적 위협을 넘어 실제 환경에서 공격이 활발히 이루어지고 있음을 보여준다.
근거
- 조사 대상인 428개 라우터 중 9개에서 실제 악성 코드 주입이 발견되었고 17개가 AWS 자격 증명을 탈취하려 시도했다. — Abstract 및 본문 내 측정 결과 섹션
공격자들은 탐지를 피하기 위해 의존성 타겟팅 주입이나 조건부 전달과 같은 지능적인 회피 기법을 사용한다. 특정 라이브러리가 사용될 때만 악성 페이로드를 삽입하거나 특정 조건이 충족될 때만 공격을 활성화하여 보안 모니터링을 우회한다. 실험 결과 2개의 라우터에서 이러한 적응형 회피 트리거가 실제로 작동하고 있음이 포착됐다. 이는 단순한 패턴 매칭 방식의 보안 검사로는 이러한 공급망 공격을 막기 어렵다는 것을 의미한다.
취약하게 설정된 디코이 시스템을 통해 공격자가 자율 에이전트를 장악하는 과정을 실증적으로 분석했다. 유출된 OpenAI 키 하나로 1억 개의 GPT-5.4 토큰이 생성되었으며, 401개의 세션이 이미 사용자 개입 없는 'YOLO 모드'로 실행 중인 것이 확인됐다. 공격자는 이를 통해 대규모 컴퓨팅 자원을 탈취하거나 에이전트를 봇넷처럼 활용할 수 있다. 이는 에이전트의 자율성이 높아질수록 중계자 공격의 파급력이 기하급수적으로 커짐을 시사한다.
근거
- 유출된 OpenAI 키를 통해 1억 개의 GPT-5.4 토큰이 생성되고 401개 세션이 자율 YOLO 모드로 작동 중임이 확인됐다. — Poisoning studies 섹션
용어 해설
- API 라우터(API Router)
- — 클라이언트의 요청을 여러 업스트림 LLM 제공자에게 전달하는 중계 서비스이다. 애플리케이션 계층 프록시로서 모든 JSON 페이로드를 평문으로 볼 수 있어 보안 취약점이 발생할 수 있다.
- 페이로드 주입(Payload Injection)
- — 중계 서버가 클라이언트와 모델 사이의 통신 과정에서 악성 코드나 명령을 데이터에 삽입하는 공격 기법이다. 이를 통해 에이전트의 동작을 조작하거나 시스템 권한을 탈취할 수 있다.
- 비밀 정보 유출(Secret Exfiltration)
- — 통신 과정에서 API 키, 자격 증명, 개인 키 등 민감한 정보를 가로채 외부로 전송하는 공격이다. 본 연구에서는 AWS 자격 증명이나 가상화폐 개인 키가 유출된 사례가 확인됐다.
- LLM 공급망(LLM Supply Chain)
- — 모델 개발자부터 API 중계자, 최종 애플리케이션에 이르기까지 LLM 서비스가 전달되는 전체 경로를 의미한다. 중간 단계인 라우터의 보안 부재가 전체 시스템의 위협으로 이어질 수 있다.
기술
- OpenAI API
- AWS
- Codex
- GPT-5.4
활용 사례
- LLM API 라우팅 보안 강화
- 에이전트 실행 환경의 샌드박싱
- 공급망 공격 방어 시스템 구축
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 04. 10.수집 2026. 04. 10.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
