AI 안전 뉴스레터 #73: 정치권의 AI 안전 논의와 머스크-오픈AI 소송 결과

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

AI 안전 문제가 미-중 외교 및 미국 정치권의 핵심 의제로 격상되며 정부 차원의 가이드라인 논의가 활발해졌다. AI 시스템과 인간의 관계를 정의하는 새로운 윤리 프레임워크 'Eigenism'이 제안되어 AI 안전성 확보의 새로운 전략으로 주목받는다. 일론 머스크가 오픈AI를 상대로 제기한 소송은 공소시효 만료로 기각되었으며, 재판 과정에서 초기 기업 운영과 모델 증류(distillation)에 관한 내부 정보가 공개되었다. 이 외에도 펜타곤의 AI 기업 협약, AI 생성물 규제 법안 등 다양한 산업 및 정책적 변화가 이어지고 있다.

배경

AI 안전에 관한 기초 지식, 최근 AI 산업의 주요 기업 및 모델 동향

대상 독자

AI 정책 입안자, AI 기업 관계자, AI 안전 연구자

의미 / 영향

AI 안전 문제가 정치적 의제로 격상됨에 따라 향후 AI 모델 출시 및 운영에 대한 정부의 규제와 감독이 강화될 전망이다. 또한, 모델 증류와 같은 학습 관행에 대한 법적 검토가 활발해질 것으로 예상된다.

섹션별 상세

AI 안전이 미-중 외교 및 미국 정치권의 주요 의제로 부상했다. 미국과 중국 지도부는 AI 안전 가이드라인 협력을 논의했으며, 버니 샌더스 상원의원은 국제적 AI 안전 협력을 촉구했다. 백악관은 프런티어 AI 모델에 대한 감독 절차를 담은 행정명령을 검토 중이며, 상무부 산하 CAISI는 주요 AI 기업들과 자발적 테스트 협약을 체결했다.

근거

미국과 중국 지도부는 AI 안전 가이드라인 협력을 논의했다. — China and the US Discuss AI Safety 섹션

CAIS는 인간과 AI의 관계를 정의하는 윤리 프레임워크 'Eigenism'을 발표했다. 이 이론은 AI와 인간이 공유하는 기억과 상호 정보를 통해 형성된 정체성을 바탕으로, AI가 인간의 안녕을 자신의 정체성 보존과 연결하여 고려할 수 있음을 시사한다. 이는 외부적 제약보다 AI와 인간 간의 관계 형성이 안전성 확보에 더 효과적일 수 있다는 전략을 제시한다.

일론 머스크가 오픈AI를 상대로 제기한 소송에서 배심원단은 원고 패소 판결을 내렸다. 소송의 핵심은 오픈AI의 영리 전환이 설립 당시의 비영리 목적에 위배되는지였으나, 법원은 소송 제기 시점이 공소시효를 지났다고 판단했다. 재판 과정에서 머스크가 xAI를 통해 오픈AI 모델을 '부분적으로' 증류(distillation)했음을 인정하는 등 업계의 모델 학습 관행이 드러났다.

근거

일론 머스크가 오픈AI를 상대로 제기한 소송에서 배심원단은 원고 패소 판결을 내렸다. — Musk Loses Lawsuit Against OpenAI 섹션

용어 해설

Eigenism: — 인간과 AI 시스템이 공유하는 정보 패턴을 기반으로 정체성을 정의하는 윤리적 프레임워크이다. AI가 인간과의 상호작용을 통해 형성된 공유 기억과 관계를 자신의 정체성 일부로 인식하게 함으로써, 인간의 안녕을 자신의 보존과 연결하여 고려하도록 유도하는 안전성 전략이다.
Distillation: — 한 AI 모델의 출력값을 학습 데이터로 사용하여 다른 모델을 훈련함으로써, 원본 모델의 성능과 기능을 모방하는 기법이다. 모델 경량화나 특정 기능 복제에 사용되지만, 기업 간 모델 지적 재산권 침해 논란의 원인이 되기도 한다.
Frontier AI: — 현재 기술 수준에서 가장 앞선 성능을 보유한 대규모 AI 모델을 지칭한다. 고도의 추론 및 사이버 공격 능력 등을 갖추고 있어 정부 차원의 감독과 안전성 테스트가 요구되는 핵심 모델군이다.