Anthropic, Claude 모델 성능 탈취를 위한 대규모 증류 공격 탐지 및 차단 발표

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

Anthropic은 DeepSeek, Moonshot, MiniMax 등 3개 AI 연구소가 Claude의 핵심 역량을 무단으로 추출하기 위해 대규모 '증류(Distillation) 공격'을 감행했음을 확인했다. 이들은 약 24,000개의 허위 계정을 동원해 1,600만 건 이상의 상호작용을 생성하며 서비스 약관을 위반하고 지역 접근 제한을 우회했다. 특히 에이전트 추론, 도구 사용, 코딩 등 Claude의 차별화된 기능을 타겟팅하여 자신들의 모델 성능을 높이려 시도했다. Anthropic은 이를 국가 안보 위협으로 규정하고 업계 및 정책 입안자들과의 공동 대응을 촉구하며 자체적인 탐지 및 차단 시스템을 강화하고 있다.

배경

LLM 증류(Distillation) 개념, API 보안 및 프록시 아키텍처 지식, 프롬프트 엔지니어링(CoT) 이해

대상 독자

AI 보안 전문가, LLM 서비스 운영자, 정책 입안자, AI 연구원

의미 / 영향

이번 발표는 AI 모델의 지적 재산권 보호가 단순한 법적 문제를 넘어 국가 안보와 직결됨을 시사한다. 특히 중국 AI 기업들의 공격적인 성능 탈취 실태가 구체적으로 드러남에 따라, 향후 API 접근 제어와 모델 보안 기술이 LLM 경쟁의 새로운 전선이 될 것으로 보인다.

섹션별 상세

Anthropic은 DeepSeek, Moonshot, MiniMax가 산업적 규모로 Claude의 능력을 추출하려는 캠페인을 벌였음을 포착했다. 이들은 24,000여 개의 허위 계정을 통해 1,600만 건 이상의 데이터를 생성했으며, 이는 단순한 사용 패턴을 넘어선 조직적인 성능 탈취 행위로 분석됐다.

증류(Distillation)는 상위 모델의 출력을 하위 모델 학습에 사용하는 기법으로, 정당한 최적화 도구로 쓰이기도 하지만 경쟁사의 기술을 저비용으로 복제하는 데 악용될 수 있다. Anthropic은 이러한 무단 증류가 미국의 AI 기술 우위를 저해하고 수출 통제 조치를 무력화한다고 지적했다.

DeepSeek은 약 15만 건의 상호작용을 통해 Claude에게 내부 추론 과정을 단계별로 설명하게 하여 '생각의 사슬(CoT)' 데이터를 대량 생성했다. 또한 검열이 심한 주제에 대해 Claude의 안전한 답변 방식을 학습시켜 자신들의 모델이 정책에 민감한 질문을 처리하는 방식을 개선하려 시도했다.

Moonshot AI는 340만 건 이상의 상호작용을 통해 에이전트 추론, 도구 사용, 코딩 및 컴퓨터 사용 에이전트 개발 역량을 집중적으로 타겟팅했다. 이들은 수백 개의 허위 계정과 다양한 경로를 활용해 탐지를 피하려 했으며, Anthropic은 요청 메타데이터를 통해 이를 해당 연구소의 고위 인력과 연결 지었다.

MiniMax는 1,300만 건이 넘는 가장 큰 규모의 공격을 수행했으며, 특히 에이전트 코딩과 도구 오케스트레이션에 집중했다. Anthropic은 모델 출시 전 학습 단계에서 이들을 탐지했으며, Anthropic이 신규 모델을 출시하자 24시간 이내에 트래픽의 절반을 새 모델로 전환하는 기민함을 보였다.

공격자들은 중국 내 접근 제한을 피하기 위해 '하이드라 클러스터(Hydra Cluster)' 아키텍처를 사용하는 프록시 서비스를 이용했다. 이는 수만 개의 계정을 동시에 관리하며 증류 트래픽을 일반 사용자의 요청과 섞어 탐지를 어렵게 만드는 구조로, 계정 하나가 차단되면 즉시 새로운 계정으로 대체된다.

text

You are an expert data analyst combining statistical rigor with deep domain knowledge. Your goal is to deliver data-driven insights — not summaries or visualizations — grounded in real data and supported by complete and transparent reasoning.

증류 공격에 사용된 전형적인 프롬프트 예시로, 모델에게 상세하고 투명한 추론 과정을 요구하는 구조를 가짐

Anthropic은 분류기(Classifier)와 행동 지문(Behavioral Fingerprinting) 시스템을 구축하여 증류 공격 패턴을 실시간으로 식별하고 있다. 또한 클라우드 제공업체 및 타 연구소와 기술 지표를 공유하고, 계정 인증 절차를 강화하며 모델 수준의 보호 장치를 개발하는 등 다각적인 방어 전략을 실행 중이다.

증류 공격을 탐지하고 방어하는 과정을 시각화한 다이어그램 — DiagramAPI 트래픽 내에서 비정상적인 패턴을 식별하고, 이를 통해 조직적인 증류 시도를 차단하는 Anthropic의 방어 메커니즘을 나타낸다. 공격자가 허위 계정을 통해 접근하더라도 행동 분석을 통해 필터링됨을 보여준다.

실무 Takeaway

대규모 언어 모델의 추론 과정(CoT)을 프롬프트로 유도하여 학습 데이터를 생성하는 방식이 경쟁 모델 복제의 핵심 수단으로 활용되고 있다.
프록시 서비스를 통한 '하이드라 클러스터' 방식의 계정 운영은 단일 IP 차단만으로는 막기 어려운 조직적이고 지능적인 API 남용 형태를 띤다.