OpenAI, 펜타곤의 AI 감시 요구에 굴복했나: 샘 알트먼의 주장과 실상의 괴리

핵심 요약

OpenAI CEO 샘 알트먼은 미 국방부(DoW)와의 계약에서 대규모 감시 금지와 자율 무기에 대한 인간의 책임이라는 '레드라인'을 확보했다고 발표했다. 하지만 내부 소식통과 전문가들은 OpenAI가 '모든 합법적 사용(any lawful use)'이라는 조건에 합의함으로써 사실상 국방부의 요구에 굴복했다고 지적한다. 이는 엄격한 제한을 요구하다 블랙리스트에 오른 앤스로픽(Anthropic)과 대조적인 행보로, AI 기술의 군사적 오용에 대한 우려를 낳고 있다.

배경

미국 국가안보법 및 FISA에 대한 기본 지식, 자율 살상 무기(LAWS)의 개념, 클라우드 컴퓨팅과 에지 컴퓨팅의 차이

대상 독자

AI 정책 입안자, 군사 기술 전문가, AI 윤리 연구자 및 관련 업계 종사자

의미 / 영향

이 사건은 AI 기업들이 정부의 강력한 요구와 상업적 이익 사이에서 기술적 원칙을 어떻게 타협하는지 보여주는 사례이다. 특히 앤스로픽에 대한 블랙리스트 지정은 향후 AI 기업들이 군사 계약 시 더 낮은 수준의 안전 기준을 수용하도록 강요하는 선례가 될 수 있다.

섹션별 상세

OpenAI 계약의 핵심은 '모든 합법적 사용'이라는 문구에 있으며 이는 미 정부가 과거 에드워드 스노든에 의해 폭로된 PRISM 프로그램처럼 법적으로 정당화했던 대규모 감시 활동을 OpenAI 기술로 수행할 수 있음을 의미한다. 국방부는 미국인에 대한 대량 데이터 수집 및 분석 권한을 포기하지 않았으며 OpenAI는 기존 법률 준수라는 명목 하에 이를 수용한 것으로 분석된다.

앤스로픽은 자율 살상 무기와 대규모 감시에 대해 타협 없는 금지 조항을 요구하다가 국방부로부터 '공급망 위험' 기업으로 낙인찍혔다. 반면 OpenAI는 기존 법과 정책을 따르는 수준에서 합의를 이끌어내며 국방부와의 협력을 지속하게 되었다. 전 OpenAI 정책 연구 책임자 마일스 브런디지는 OpenAI가 사실상 굴복했으면서도 이를 돕는 것처럼 포장하여 앤스로픽을 곤경에 빠뜨렸다고 비판했다.

알트먼은 보안 인가된 직원의 모니터링과 '분류기(Classifiers)' 모델을 통한 기술적 안전장치를 강조했다. 하지만 전문가들은 이러한 분류기가 실시간으로 인간의 개입 여부를 확인하거나 단순 쿼리가 대규모 감시 프로그램의 일부인지 판단하기 어렵다고 지적한다. 또한 정부가 특정 행위를 합법으로 규정할 경우 OpenAI의 기술적 차단 장치는 무력화될 수밖에 없는 구조적 한계를 지닌다.

OpenAI는 자사 기술이 드론과 같은 말단 장치가 아닌 클라우드에서만 실행되므로 자율 살상 무기 활용 가능성이 낮다고 주장한다. 그러나 현대전의 '자율 살상 체인(Autonomous kill chain)'에서 실제 타격 전 단계의 데이터 분석과 표적 식별은 대부분 클라우드 기반 알고리즘으로 수행된다. 따라서 OpenAI 기술이 직접 방아쇠를 당기지 않더라도 살상 결정에 이르는 모든 핵심 과정을 지원할 수 있다는 우려가 여전하다.

실무 Takeaway

AI 기업의 윤리적 레드라인이 정부 계약 과정에서 '합법적 범위 내 허용'이라는 모호한 문구로 희석될 위험이 존재한다.
기술적 안전장치인 분류기(Classifiers)는 정책적 또는 법적으로 허용된 범위 내에서의 오용을 막는 데 한계가 명확하다.
정부의 공급망 위험 지정과 같은 강력한 압박 수단이 기업의 기술적 원칙 고수를 방해하는 요인으로 작용하고 있다.