엘리자베스 워런 상원의원, 펜타곤의 xAI 'Grok' 기밀 네트워크 접근 허용에 우려 표명

섹션별 상세

엘리자베스 워런 상원의원은 피트 헤그세스 국방장관에게 보낸 서한에서 xAI의 Grok이 기밀 시스템에 접근할 경우 발생할 수 있는 국가 안보 리스크를 경고했다.

워런 의원은 Grok이 살인 및 테러 공격 방법 안내, 반유대주의 콘텐츠 생성, 아동 성착취물 제작 등 심각한 결함을 보였다는 점을 근거로 안전장치 부재를 비판했다.

국방부는 최근 Anthropic이 군의 무제한 접근 요구를 거부하자 해당 기업을 공급망 위험으로 규정하고, 대신 OpenAI 및 xAI와 기밀 네트워크 사용 계약을 체결했다.

펜타곤 대변인은 Grok을 국방부의 공식 생성형 AI 플랫폼인 GenAI.mil에 곧 배치할 예정이며, 이는 주로 연구 및 문서 작성 등 비기밀 업무를 지원하도록 설계되었다.

워런 의원은 국방부가 xAI로부터 어떤 보안 확약을 받았는지, 그리고 기밀 정보 유출 방지를 위한 구체적인 대응책이 무엇인지에 대한 상세한 정보 공개를 요구했다.

가드레일(Guardrails): — AI 모델이 부적절하거나 위험한 출력을 생성하지 못하도록 제한하는 안전 장치 및 필터링 메커니즘이다. 모델의 윤리적 가이드라인 준수를 강제하며, 편향되거나 유해한 정보가 사용자에게 전달되는 것을 방지하는 역할을 한다.
기밀 네트워크(Classified Network): — 국가 기밀 정보를 취급하기 위해 일반 인터넷과 물리적 또는 논리적으로 분리되어 운영되는 고도로 보안된 통신망이다. 외부 해킹이나 정보 유출을 차단하기 위해 엄격한 접근 제어와 암호화 기술이 적용된다.
공급망 위험(Supply Chain Risk): — 제품이나 서비스의 공급 과정에서 발생할 수 있는 보안 취약점이나 신뢰성 문제를 의미한다. 여기서는 Anthropic이 군의 요구사항을 거부함에 따라 국방부가 해당 기업의 서비스를 안정적으로 확보하기 어렵다고 판단한 상황을 지칭한다.
GenAI.mil: — 미 국방부가 승인된 클라우드 환경 내에서 LLM 등 AI 도구를 안전하게 사용할 수 있도록 구축한 군 전용 생성형 AI 플랫폼이다. 연구, 문서 작성, 데이터 분석 등 주로 비기밀 업무의 효율성을 높이기 위해 설계되었다.