펜타곤, 기밀 데이터를 활용한 군사 특화 AI 모델 학습 계획 추진

섹션별 상세

펜타곤은 생성형 AI 기업들이 기밀 환경에서 군사 전용 모델을 학습시킬 수 있는 보안 구역 구축을 논의 중이다. 이는 감시 보고서나 전장 평가서와 같은 민감한 지능 정보가 모델 자체에 내장될 수 있음을 의미한다. 기존의 단순 질의응답 활용 단계를 넘어서는 중대한 변화이며, AI 기업들이 국가 기밀에 더 밀접하게 접근하게 된다.

Anthropic의 Claude는 이미 기밀 환경에서 이란 내 표적 분석 등의 용도로 사용되고 있다. 하지만 모델이 기밀 데이터를 직접 학습하게 되면 정보가 모델 가중치에 반영되어 유출될 위험이 발생한다. 민감한 지능 정보가 모델 내부에 고착화될 수 있다는 우려가 제기되며 보안 리스크가 핵심 쟁점이다.

미 국방부 관계자에 따르면 기밀 데이터 학습을 통해 특정 군사 임무에서 모델의 정확도와 효율성을 획기적으로 높일 수 있다. 현재 펜타곤은 OpenAI 및 xAI와 기밀 환경 내 모델 운영 계약을 체결했다. 'AI 우선' 전쟁 수행 능력을 갖추기 위한 새로운 의제를 적극적으로 실행 중이다.

용어 해설

생성형 AI(Generative AI): — 데이터를 학습하여 새로운 텍스트나 이미지를 생성하는 기술로, 군사 작전에서 정보 요약 및 전략 분석에 활용된다.
기밀 데이터(Classified Data): — 국가 안보상 보호가 필요한 제한된 정보로, AI 학습 시 모델 내부에 민감한 정보가 각인될 위험이 존재한다.
미세 조정(Fine-tuning): — 사전 학습된 모델을 특정 도메인 데이터로 추가 학습시키는 기법으로, 군사 특화 성능을 확보하기 위한 핵심 과정이다.

언급된 도구

Claude추천

기밀 환경 내 질의응답 및 표적 분석

언급된 리소스

문서MIT Technology Review: The Pentagon’s AI training plans