AI 정치적 저항 운동을 이끈 비밀 회동의 내막

섹션별 상세

미래생명연구소(FLI)는 지난 1월 뉴올리언스에서 노동계, 종교계, 정치권의 다양한 지도자 90여 명을 초청해 AI 안전에 관한 비밀 컨퍼런스를 개최했다. 이 회의에는 미국교사연맹(AFT), 기독교지도자회의, 진보민주당원(PDA)뿐만 아니라 스티브 배넌과 같은 보수 인사까지 참여하여 이념적 경계를 넘는 이례적인 연합을 형성했다.

회의의 결과물인 '친인류 AI 선언(Pro-Human AI Declaration)'은 다섯 가지 주요 지침을 담고 있다. 핵심 내용은 AI 개발이 소수 권력자에게 힘을 집중시키는 것을 방지하고, 아동과 가족의 복지를 보호하며, 인간의 주체성과 자유를 보존하는 데 초점을 맞추어야 한다는 것이다.

이번 선언은 2017년 '아실로마 AI 원칙'과 달리 샘 올트먼이나 일론 머스크 같은 빅테크 업계 인사를 의도적으로 배제했다. 이는 기업의 이익과 자금력이 논의를 주도하는 것을 막고, AI로 인해 실질적인 삶의 변화와 위협을 느끼는 시민 사회의 목소리를 온전히 담아내기 위한 설계였다.

참석자들은 AI 모델의 정치적 성향에 대한 이견에도 불구하고, 자율 살상 무기의 AI 단독 제어 금지나 아동의 정서적 애착을 이용한 수익 창출 금지 등 핵심 안전 이슈에는 90% 이상의 높은 합의율을 보였다.

선언의 주도자들은 정부가 규제 완화를 통해 빅테크를 지원하는 상황에서, 좌우를 아우르는 강력한 연합군(Demanding Coalition)을 형성해 정치적 압박을 가하는 것이 유일한 해결책이라고 믿는다. FLI는 '인간적인 것을 보호하라(Protect What’s Human)' 캠페인을 통해 대중의 지지를 확산시킬 계획이다.

용어 해설

미래생명연구소(Future of Life Institute): — AI, 핵무기 등 인류의 실존적 위험을 연구하고 안전한 기술 발전을 도모하는 비영리 기구이다. 이번 '친인류 AI 선언'을 주도하며 정책적 대안을 제시하고 정치적 연합을 이끄는 핵심 역할을 수행한다.
아실로마 AI 원칙(Asilomar AI Principles): — 2017년 AI 전문가들이 모여 제정한 23가지 윤리 원칙으로, AI의 유익한 발전을 위한 초기 가이드라인이다. 이번 선언은 기업 중심이었던 과거와 달리 시민 사회 중심으로 패러다임을 전환하려는 시도이다.
채텀 하우스 규칙(Chatham House Rules): — 회의 내용을 외부로 발설할 수 있으나 발언자의 신원이나 소속은 밝히지 않는 보안 규칙이다. 뉴올리언스 비밀 회동에서 다양한 정치적 배경을 가진 참석자들이 자유롭게 토론할 수 있는 환경을 조성하기 위해 적용되었다.
자율 살상 무기(Autonomous Lethal Weapons): — 인간의 개입 없이 AI가 스스로 목표를 식별하고 공격을 결정하는 무기 체계이다. 선언문은 인류의 안전을 위해 이러한 무기에 대한 인간의 통제권을 유지해야 함을 강력히 주장한다.

기술

AI Governance
Policy Frameworks

활용 사례

AI 규제 입법
시민 사회 캠페인
기업 윤리 가이드라인

언급된 리소스

문서Pro-Human AI Declaration