Anthropic, 미 국방부의 '킬 스위치' 우려 반박하며 소송 제기

섹션별 상세

Anthropic의 공공 부문 책임자 Thiyagu Ramasamy는 법원 제출 문서를 통해 미군이 Claude를 실행한 이후에는 회사가 모델을 조작하거나 접근을 차단할 능력이 없음을 명시했다. 이는 트럼프 행정부가 Anthropic이 전쟁 중 AI 도구를 변조할 수 있다고 주장한 것에 대한 직접적인 반박이다.

미 국방부는 Anthropic을 '공급망 리스크'로 지정하여 향후 몇 달간 국방부 및 계약업체들이 Claude를 사용하는 것을 금지했다. 국방부는 Anthropic이 특정 용도에 반대하여 모델 업데이트를 통해 작전을 방해하거나 접근을 차단할 위험을 감수할 수 없다는 입장이다.

Anthropic은 이러한 금지 조치가 헌법에 위배된다며 두 건의 소송을 제기하고 금지 조치 철회를 위한 긴급 명령을 요청했다. 이미 고객들이 계약을 취소하기 시작했으며, 3월 24일 샌프란시스코 연방법원에서 관련 심리가 예정되어 있다.

기술적 측면에서 Anthropic은 모델에 백도어나 원격 '킬 스위치'가 없음을 강조했다. 모델 업데이트는 정부와 클라우드 제공업체인 Amazon Web Services(AWS)의 승인이 있어야만 가능하며, Anthropic 직원이 군 시스템에 로그인하여 모델을 수정하는 것은 구조적으로 불가능하다.

Anthropic은 군의 전술적 결정에 대해 거부권을 행사할 의사가 없음을 분명히 했으며, 인간의 감독 없는 치명적인 공격에 Claude가 사용되는 것에 대한 우려를 해결하기 위한 계약 조항도 수용할 준비가 되어 있었다고 밝혔다. 그러나 국방부와의 협상은 최종적으로 결렬되었다.

용어 해설

공급망 리스크(Supply Chain Risk): — 제품이나 서비스가 사용자에게 전달되는 과정에서 발생할 수 있는 보안 위협이나 중단 위험이다. 미 국방부는 Anthropic이 정치적 이유 등으로 AI 모델의 기능을 임의로 변경하거나 중단시켜 군사 작전에 차질을 빚을 가능성을 이 리스크로 규정했다.
킬 스위치(Kill Switch): — 비상 상황에서 시스템이나 기기의 작동을 즉시 중단시키는 장치나 소프트웨어 기능이다. 국방부는 Anthropic이 Claude에 원격 제어 가능한 킬 스위치를 보유하여 작전 중 모델을 무력화할 수 있다고 우려했으나, Anthropic은 이를 전면 부인했다.
백도어(Back Door): — 정상적인 인증 절차를 우회하여 시스템에 접근할 수 있도록 설계된 비밀 통로이다. Anthropic은 군사 시스템 내에 설치된 자사 모델에 접근하거나 수정할 수 있는 어떠한 백도어도 존재하지 않는다고 법정에서 소명했다.

기술

Claude
AWS

활용 사례

데이터 분석
메모 작성
전투 계획 생성 보조