구글, 마이크로소프트, xAI, 미국 정부의 신규 AI 모델 사전 검토 허용

섹션별 상세

주요 AI 기업들이 정부의 사전 모델 검토 요구를 수용했다. 구글 DeepMind, 마이크로소프트, xAI는 신규 모델 출시 전 상무부 산하 CAISI의 평가를 받는 데 동의했다. 이를 통해 정부는 프런티어 AI 모델이 가진 잠재적 위험과 국가 안보에 미치는 영향을 미리 파악할 수 있다.

CAISI는 독립적인 측정 과학을 기반으로 AI 역량을 평가한다. 센터는 기업들과 협력하여 배포 전 평가와 특정 분야에 대한 표적 연구를 수행함으로써 모델의 안전성을 검증한다. CAISI 소장 크리스 폴은 이러한 협력이 공공의 이익을 위해 필수적임을 확인했다.

기존 파트너십이 현 행정부의 정책 기조에 맞춰 재조정됐다. 이미 협력 중이던 OpenAI와 Anthropic은 트럼프 대통령의 AI 실행 계획 우선순위에 맞춰 파트너십 내용을 갱신했다. 이는 정부 주도의 AI 통제권이 더욱 강화되는 방향으로 정책이 변화하고 있음을 보여준다.

백악관 차원의 추가적인 규제 조치가 검토되고 있다. 트럼프 대통령은 기술 경영진과 정부 관료들이 모여 신규 AI 모델을 직접 감독하는 행정 명령을 고려 중인 것으로 알려졌다. 이는 단순한 평가를 넘어 정부가 AI 개발 프로세스 전반에 깊숙이 관여할 가능성을 시사한다.

용어 해설

프런티어 AI(Frontier AI): — 가장 발전된 형태의 고성능 AI 모델을 의미하며, 잠재적으로 국가 안보나 공공 안전에 중대한 영향을 미칠 수 있는 수준의 능력을 갖춘 모델을 지칭한다.
배포 전 평가(Pre-deployment Evaluation): — AI 모델이 일반 대중에게 공개되기 전에 정부나 독립 기관이 모델의 위험성, 안전성, 성능을 미리 검증하는 절차를 의미한다.
AI 표준 및 혁신 센터(CAISI): — 미국 상무부 산하 기관으로, AI 모델의 표준을 설정하고 국가 안보와 공공 이익을 위해 모델의 역량을 평가하고 연구하는 역할을 수행한다.

기술

Frontier AI Models

활용 사례

Pre-deployment Safety Testing
National Security Risk Assessment