Ben's Bites: AI 보안 위기와 Claude Code의 새로운 진화

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

최근 AI 생태계는 Claude Code의 소스 유출과 Axios 패키지 오염 등 심각한 보안 위협에 직면했다. 이러한 공급망 공격에 대응하기 위해 에이전트 실행 환경을 격리하는 샌드박스 기술의 중요성이 그 어느 때보다 강조되고 있다. 동시에 Anthropic은 Claude Code에 컴퓨터 제어 기능을 추가하고, Google은 멀티모달 성능이 강화된 Gemini 3.1 Flash Live를 출시하며 기술적 진보를 이어가고 있다. Stripe의 Projects.dev와 같은 새로운 도구들은 에이전트가 외부 서비스와 상호작용하는 방식을 더욱 안전하고 간편하게 혁신하고 있다.

배경

LLM 에이전트 기본 개념, 소프트웨어 공급망 보안 이해

대상 독자

AI 개발자 및 보안 담당자

의미 / 영향

AI 에이전트의 확산에 따라 소프트웨어 공급망 보안이 핵심 과제로 부상했다. 샌드박스 기술과 에이전트 전용 인프라 도구의 발전은 안전한 AI 자동화 환경 구축을 가속화할 것이다.

섹션별 상세

Claude Code의 소스 코드가 유출되어 GitHub 등지에 복제본이 확산되는 사고가 발생했다. 유출된 코드베이스 문서들이 공유되면서 커뮤니티 내에서 보안 우려가 커지고 있다. 이는 신뢰받는 AI 도구조차 내부 자산 보호에 취약할 수 있음을 시사한다. 개발자들은 유출된 코드를 이용한 악의적인 변종 생성에 주의해야 한다.

1억 회 이상의 주간 설치량을 기록하는 Axios 패키지가 npm을 통해 공급망 공격을 받았다. 메인테이너의 GitHub 계정이 탈취되어 악성 버전이 배포되었으며, 이는 해당 패키지를 사용하는 Claude Code 등 수많은 에이전트 도구에 직접적인 위협이 됐다. npm 측에서 악성 버전을 제거했으나 이미 설치된 환경에 대한 점검이 필요하다. 소프트웨어 공급망의 취약성이 AI 에이전트의 안전성을 위협하는 핵심 요소로 부상했다.

에이전트가 외부 패키지를 설치하고 실행하는 과정에서 시스템을 보호하기 위해 샌드박스 환경 도입이 필수적이다. Claude Cowork나 Codex와 같은 도구들은 명령어를 격리된 가상 환경에서 실행하여 본체 시스템의 오염을 방지한다. 악성 코드가 침투하더라도 실제 데이터나 설정에 영향을 주지 않도록 복제된 폴더 내에서만 작동하게 한다. 이러한 격리 전략은 에이전트에게 권한을 부여할 때 반드시 고려해야 할 보안 표준이다.

Claude Code에 'Computer Use' 기능이 추가되어 AI가 직접 UI를 조작하며 작업을 수행할 수 있게 됐다. 사용자는 Pro 및 Max 플랜의 연구 프리뷰를 통해 Claude가 컴퓨터 화면을 보고 앱을 테스트하거나 복잡한 태스크를 수행하도록 명령할 수 있다. 또한 클라우드 기반의 auto-fix 기능이 도입되어 원격으로 PR을 감시하고 CI 실패를 자동으로 수정한다. 이는 에이전트가 단순 코드 작성을 넘어 운영 단계까지 개입함을 의미한다.

Stripe가 공개한 Projects.dev는 에이전트가 CLI 환경에서 서드파티 서비스 계정을 직접 생성하고 관리할 수 있게 돕는다. 에이전트가 명령어를 실행하면 Posthog, Supabase 등 파트너 앱의 계정 설정부터 API 키 발급, 빌링 설정까지 자동으로 처리한다. 여러 도구를 수동으로 연결해야 했던 번거로움을 없애고 에이전트의 자율적인 인프라 구축을 지원한다. 현재 개발자 프리뷰 단계로 누구나 접근하여 테스트할 수 있다.

Google이 출시한 Gemini 3.1 Flash Live 모델은 텍스트, 이미지, 오디오, 비디오를 네이티브하게 통합 처리하는 성능을 갖췄다. 특히 음성으로 전달되는 복잡한 지시사항을 이행하는 능력이 GPT-Realtime 1.5 등 경쟁 모델보다 우수한 것으로 나타났다. 개발자들은 API를 통해 이 모델의 멀티모달 기능을 자신의 앱에 통합할 수 있다. 또한 타사 챗봇의 대화 기록을 Gemini로 가져오는 기능을 추가하며 사용자 확보에 공격적으로 나서고 있다.

Codex는 플러그인 시스템을 도입하여 에이전트의 기술과 앱 통합, MCP 서버를 재사용 가능한 워크플로우로 묶을 수 있게 했다. Claude Code 내부에서 Codex를 사용할 수 있는 전용 플러그인도 출시되어 두 도구 간의 시너지를 극대화한다. 사용자는 자신의 Mac에서 실행 중인 Codex를 아이폰으로 제어하는 등 기기 간 연동성도 확보할 수 있다. 이는 에이전트 도구들이 서로 연결되는 생태계가 형성되고 있음을 보여준다.

Chroma와 Intercom은 특정 유즈케이스에 최적화된 커스텀 모델을 훈련하여 에이전트의 성능을 대폭 개선했다. Chroma의 Context-1은 검색 에이전트의 정확도를 높였고, Intercom의 Apex 1.0은 고객 지원 에이전트 Fin의 문제 해결률을 향상시켰다. 범용 모델에 의존하기보다 특정 도메인에 특화된 수직적 모델을 구축하는 것이 실무적 성과를 내는 데 유리함이 입증됐다. 기업들이 자체 데이터를 활용해 모델을 미세 조정하는 사례가 늘어날 전망이다.

이미지 분석

Screenshot
프로젝트 시작 단계에서 사용자가 생각하는 요구사항과 실제 필요한 것 사이의 간극을 줄이기 위해 AI의 인터뷰 기능을 활용하는 전략을 보여준다. AI가 질문자가 되는 것이 답변자가 되는 것보다 강력할 수 있다는 인사이트를 제공한다.
AI가 사용자에게 역으로 질문을 던져 요구사항을 명확히 하도록 유도하는 프롬프트 예시 이미지이다.

실무 Takeaway

AI 에이전트에게 시스템 접근 권한을 부여할 때는 반드시 Claude Cowork와 같은 샌드박스 도구를 사용하여 공급망 공격으로부터 로컬 환경을 격리해야 한다.
Stripe Projects.dev를 활용하면 에이전트가 인프라 설정과 API 키 관리를 자율적으로 수행하게 하여 개발 워크플로우의 자동화 수준을 높일 수 있다.
복잡한 음성 인터랙션이나 실시간 영상 분석이 필요한 서비스에는 지시 이행 능력이 강화된 Gemini 3.1 Flash Live 모델 도입을 검토해야 한다.

언급된 리소스

DemoStripe Projects.dev

API DocsClaude Code

문서Gemini 3.1 Flash Live