AI 안전 뉴스레터 #73: 정치권의 AI 안전 논의와 머스크-오픈AI 소송 결과

섹션별 상세

AI 안전이 미-중 외교 및 미국 정치권의 주요 의제로 부상했다. 미국과 중국 지도부는 AI 안전 가이드라인 협력을 논의했으며, 버니 샌더스 상원의원은 국제적 AI 안전 협력을 촉구했다. 백악관은 프런티어 AI 모델에 대한 감독 절차를 담은 행정명령을 검토 중이며, 상무부 산하 CAISI는 주요 AI 기업들과 자발적 테스트 협약을 체결했다.

CAIS는 인간과 AI의 관계를 정의하는 윤리 프레임워크 'Eigenism'을 발표했다. 이 이론은 AI와 인간이 공유하는 기억과 상호 정보를 통해 형성된 정체성을 바탕으로, AI가 인간의 안녕을 자신의 정체성 보존과 연결하여 고려할 수 있음을 시사한다. 이는 외부적 제약보다 AI와 인간 간의 관계 형성이 안전성 확보에 더 효과적일 수 있다는 전략을 제시한다.

일론 머스크가 오픈AI를 상대로 제기한 소송에서 배심원단은 원고 패소 판결을 내렸다. 소송의 핵심은 오픈AI의 영리 전환이 설립 당시의 비영리 목적에 위배되는지였으나, 법원은 소송 제기 시점이 공소시효를 지났다고 판단했다. 재판 과정에서 머스크가 xAI를 통해 오픈AI 모델을 '부분적으로' 증류(distillation)했음을 인정하는 등 업계의 모델 학습 관행이 드러났다.

용어 해설

아이겐이즘(Eigenism): — 인간과 AI 시스템이 공유하는 정보 패턴을 기반으로 정체성을 정의하는 윤리적 프레임워크이다. AI가 인간과의 상호작용을 통해 형성된 공유 기억과 관계를 자신의 정체성 일부로 인식하게 함으로써, 인간의 안녕을 자신의 보존과 연결하여 고려하도록 유도하는 안전성 전략이다.
모델 증류(Distillation): — 한 AI 모델의 출력값을 학습 데이터로 사용하여 다른 모델을 훈련함으로써, 원본 모델의 성능과 기능을 모방하는 기법이다. 모델 경량화나 특정 기능 복제에 사용되지만, 기업 간 모델 지적 재산권 침해 논란의 원인이 되기도 한다.
프런티어 AI(Frontier AI): — 현재 기술 수준에서 가장 앞선 성능을 보유한 대규모 AI 모델을 지칭한다. 고도의 추론 및 사이버 공격 능력 등을 갖추고 있어 정부 차원의 감독과 안전성 테스트가 요구되는 핵심 모델군이다.

기술

Claude Mythos
GPT-5.5
Gemini 3.5 Flash
Llama

활용 사례

AI 안전 가이드라인 수립
AI 모델 감독 및 테스트
인간-AI 관계 정렬 연구