미군, 표적 순위 선정 및 타격 권고에 생성형 AI 도입 검토

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

미 국방부는 군사 작전의 효율성을 높이기 위해 생성형 AI를 표적 순위 선정 및 타격 권고 프로세스에 도입하는 방안을 추진 중이다. 기존의 'Project Maven'이 컴퓨터 비전을 통해 데이터를 식별했다면, 새로운 시스템은 대형 언어 모델(LLM)을 활용해 데이터를 분석하고 대화형으로 최적의 타격 시점을 제안한다. 비록 최종 결정은 인간이 내리는 'Human-in-the-loop' 구조를 표방하지만, 최근 이란 학교 오폭 사건 등과 맞물려 AI 기반 의사결정의 신뢰성과 검증 가능성에 대한 우려가 커지고 있다. 현재 OpenAI, xAI, Anthropic 등의 모델이 기밀 환경 사용을 위해 국방부와 협력하거나 갈등을 빚고 있는 상황이다.

배경

대형 언어 모델(LLM)의 기본 작동 원리, Project Maven 및 군사용 컴퓨터 비전 기술에 대한 이해, AI 윤리 및 거버넌스 관련 기초 지식

대상 독자

국방 기술 관계자, AI 윤리 연구자, 글로벌 안보 전문가 및 정책 입안자

의미 / 영향

생성형 AI의 군사적 도입은 작전 속도를 획기적으로 높일 수 있으나, 책임 소재 불분명과 기술적 불투명성으로 인해 국제적 긴장과 윤리적 논란을 심화시킬 것이다. 특히 민간인 피해 발생 시 AI의 권고가 미친 영향에 대한 법적, 도덕적 책임 공방이 가속화될 것으로 보인다.

섹션별 상세

미 국방부는 생성형 AI를 활용해 수집된 표적 목록을 분석하고, 항공기 위치 등 실시간 변수를 고려하여 어떤 표적을 먼저 타격할지 우선순위를 추천하는 시스템을 구축하고 있다. 이는 기존의 단순 데이터 식별을 넘어 복잡한 상황 판단을 보조하는 대화형 인터페이스로의 진화를 의미한다.

2017년부터 운영된 'Project Maven'은 주로 컴퓨터 비전(CV)을 사용해 드론 영상 등에서 표적을 알고리즘으로 식별하는 데 집중해 왔다. 반면 새롭게 도입되는 생성형 AI는 LLM을 기반으로 하며, 지도상의 데이터를 직접 해석해야 했던 Maven과 달리 자연어 대화를 통해 정보를 요약하고 권고안을 제시하여 의사결정 시간을 단축한다.

생성형 AI는 기존 시스템보다 사용하기 쉽지만 결과의 진위 여부를 확인하기는 더 어렵다는 기술적 한계가 존재한다. 특히 최근 이란의 여학교 오폭 사건으로 100명 이상의 어린이가 사망한 사건과 관련하여, AI가 제공한 낡은 데이터나 잘못된 분석이 작전에 미친 영향에 대해 조사가 진행 중이며 이에 대한 공공의 감시가 강화되고 있다.

국방부는 기밀 환경에서 사용할 모델로 OpenAI의 ChatGPT와 xAI의 Grok을 선정하고 계약을 체결했다. 반면 초기 파트너였던 Anthropic은 군사적 이용 제한 문제를 두고 국방부와 갈등을 빚으며 공급망 위험 기업으로 지정되었고, 현재 법적 공방을 벌이고 있는 복잡한 정치·경제적 상황에 놓여 있다.

실무 Takeaway

미 국방부는 LLM을 활용해 표적 분석 시간을 단축하려 하며, 이는 군사 의사결정 프로세스에 '대화형 AI 레이어'가 추가됨을 의미한다.
생성형 AI의 할루시네이션이나 검증의 어려움은 실전 배치 시 오폭과 같은 치명적인 인도적 재앙으로 이어질 위험이 크다.
OpenAI, xAI 등 빅테크 기업의 모델이 국가 안보 및 기밀 작전에 직접 투입되면서 기술 기업과 정부 간의 협력 모델이 새로운 국면에 접어들었다.