미 국방부, 앤스로픽에 클로드 AI 안전 가드레일 제거 최후통첩

핵심 요약

미 국방부가 앤스로픽에 클로드 AI의 안전 가드레일 제거를 요구하며 불응 시 국방물자생산법 발동과 블랙리스트 등재를 경고했다.

배경

Axios 보도에 따르면 피트 헤그세스 미 국방장관이 앤스로픽에 클로드 AI의 안전 가드레일을 제거하라는 최후통첩을 보냈다. 국방부는 국내 감시와 자율 무기 개발을 위해 클로드에 대한 무제한 접근을 요구하고 있다.

의미 / 영향

이번 사건은 국가 안보를 명분으로 민간 AI 기업의 안전 정책을 무력화하려는 정부의 시도를 보여준다. 이는 향후 AI 기업들이 정부 계약을 체결할 때 기술적 자율성과 윤리적 기준을 유지하기가 점점 더 어려워질 것임을 시사한다.

커뮤니티 반응

커뮤니티는 정부의 강압적인 태도와 AI 안전성 훼손에 대해 우려를 표하고 있으며 앤스로픽의 대응에 주목하고 있다.

언급된 도구

Claude중립

고도로 분류된 군사 시스템에서 사용되는 AI 모델

섹션별 상세

미 국방부는 현재 군사 시스템에서 사용 중인 유일한 AI인 클로드에 대해 제한 없는 접근 권한을 요구했다. 이는 앤스로픽의 서비스 약관을 위반하는 행위이며 국방부는 이를 통해 국내 감시 및 자율 무기 체계 개발을 추진하려 한다. 현재 클로드는 고도로 분류된 군사 시스템 내에서 핵심적인 역할을 수행하고 있다.

앤스로픽 CEO 다리오 아모데이가 요구를 거부할 경우 국방부는 국방물자생산법(Defense Production Act)을 발동하여 강제 이행을 명령하거나 공급망 위험 기업으로 지정할 계획이다. 공급망 위험 기업으로 지정되면 앤스로픽은 향후 모든 정부 계약에서 배제되는 강력한 제재를 받게 된다. 이는 민간 기업에 대한 정부의 전례 없는 수준의 압박으로 평가된다.

이번 사태는 AI 기업의 윤리적 가이드라인과 국가 안보 요구가 정면으로 충돌하는 사례이다. 앤스로픽은 그동안 안전을 최우선으로 하는 헌법적 AI(Constitutional AI)를 강조해 왔으나 정부의 강력한 압박으로 인해 기업의 정체성과 생존 사이에서 중대한 결정을 내려야 하는 상황이다. 이번 결정의 마감 시한은 이번 주 금요일로 설정됐다.

실무 Takeaway

미 국방부는 앤스로픽에 클로드 AI의 안전 가드레일을 금요일까지 제거할 것을 요구했다.
요구 사항에는 국내 감시 및 자율 무기 개발을 위한 무제한 접근 권한이 포함되어 있다.
불응 시 국방물자생산법 발동 및 정부 계약 블랙리스트 등재 등 강력한 보복 조치가 예고됐다.