핵심 요약
미 국방부가 앤스로픽(Anthropic)에 대해 자율 살상 무기 및 대량 감시 시스템 구축을 위한 무제한 기술 접근권을 요구하며 강력한 압박을 가하고 있다. 앤스로픽은 현재까지 인간의 개입 없는 살상 무기 사용에 반대하며 가드레일을 유지하고 있으나, 국방부는 이를 '공급망 위험'으로 규정하며 수천억 달러 규모의 계약 중단을 시사했다. 이 과정에서 OpenAI와 xAI는 이미 국방부의 조건을 수용했다는 보도가 나오며 테크 업계 내 윤리적 갈등이 심화되고 있으며, 아마존, 구글, 마이크로소프트 등 빅테크 직원들 사이에서도 군사적 활용에 대한 우려와 저항의 목소리가 커지고 있다.
배경
미 국방부 공급망 위험 지정 제도, 자율 살상 무기(LAWS) 개념, 앤스로픽의 책임 있는 확장 정책(RSP)
대상 독자
AI 윤리 및 정책 담당자, 국방/안보 기술 관계자, 빅테크 종사자
의미 / 영향
AI 기술의 군사적 활용에 대한 윤리적 마지노선이 무너지고 있으며, 이는 향후 국제적인 AI 군비 경쟁과 자율 무기 체계 도입을 가속화할 것으로 보인다.
섹션별 상세
미 국방부는 앤스로픽에 대해 인간의 감독 없는 AI 표적 살상 및 대량 감시 허용을 요구하는 최후통첩을 보냈다. 앤스로픽이 이를 거부할 경우 '공급망 위험(Supply Chain Risk)'으로 지정되어 국가 안보 위협으로 간주될 수 있으며, 이는 수천억 달러의 정부 계약 손실로 이어질 수 있다. 앤스로픽의 CEO 다리오 아모데이는 현재의 기술이 충분히 신뢰할 수 없다는 이유로 가드레일 제거를 거부하고 있으며, 대신 시스템 신뢰성 향상을 위한 R&D 협력을 제안했으나 국방부는 이를 거절한 상태이다.
앤스로픽과 달리 OpenAI와 xAI는 이미 국방부의 요구 조건을 수용하여 군사적 활용에 대한 가드레일을 완화한 것으로 알려졌다. OpenAI는 2024년 서비스 약관에서 '군사 및 전쟁' 사용 금지 조항을 삭제하고 자율 무기 제조사인 안두릴(Anduril)과 협력하기 시작했다. 이러한 행보는 업계 내에서 '애국주의'라는 명분 하에 군사 기술 협력을 정당화하는 분위기를 형성하고 있으며, 팔란티어(Palantir)와 같은 기업들은 적을 살상하기 위한 기술 지원을 공개적으로 표방하며 이러한 흐름을 주도하고 있다.
빅테크 기업 내부에서는 군사 및 감시 계약 확대에 따른 직원들의 도덕적 배신감과 공포 정치가 확산되고 있다. 아마존, 구글, 마이크로소프트의 노동자들은 국방부의 요구를 거부하라는 서한을 보냈으나, 과거 '프로젝트 메이븐(Project Maven)' 당시와 달리 현재는 정부와의 협력을 거부할 경우 불이익을 당할 수 있다는 두려움이 지배적이다. 특히 이민자나 취약한 위치에 있는 직원들은 목소리를 내기 더욱 어려워졌으며, 사내 AI 사용 및 출근 기록 추적 등 강화된 감시 체계가 직원들을 순응하게 만들고 있다는 지적이 나온다.
앤스로픽이 국방부의 압박에 굴복할 경우, AI 업계 전체에서 자율 살상 무기와 대량 감시에 대한 통제력을 상실할 것이라는 우려가 크다. 국방부는 이미 보잉과 록히드 마틴 등 주요 방산 업체에 앤스로픽 기술 의존도를 조사하도록 지시했으며, 국방물자생산법(DPA)을 동원해 강제로 기술을 수용하게 할 가능성도 검토 중이다. 테크 업계 전문가들은 기업들이 단기적인 수익을 위해 윤리적 원칙을 포기하고 있으며, 이는 결국 인간의 감독이 배제된 AI 기반 감시 국가로 나아가는 결과를 초래할 수 있다고 경고한다.
실무 Takeaway
- AI 기업의 가드레일 설정은 국가 안보라는 명분 하에 정부의 강력한 압박을 받을 수 있으며, 이는 기업의 생존과 직결된 경영 리스크로 작용한다.
- OpenAI, 앤스로픽 등 주요 모델 제공사 간의 안전 정책 차이가 군사 계약 수주 경쟁에서 핵심적인 변수로 부상하고 있다.
- 테크 노동자들은 기업의 군사적 활용에 반대하는 연대를 모색하고 있으나, 정부의 강경한 태도와 사내 감시 강화로 인해 실질적인 영향력을 행사하기 어려워지고 있다.
언급된 리소스
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료