인간 중심 AI 선언: 초지능 경쟁 속에서 통제권을 되찾기 위한 초당적 움직임

섹션별 상세

인간 중심 AI 선언은 AI 발전의 두 갈래 길 중 '인간 대체'가 아닌 '인간 잠재력 확장'을 선택해야 한다고 명시했습니다. 이를 위해 인간의 주도권 유지, 권력 집중 방지, 인간 경험 보호, 개인의 자유 보존, AI 기업의 법적 책임이라는 5가지 핵심 기둥을 설정했습니다.

선언문은 안전성에 대한 과학적 합의와 민주적 동의가 이루어질 때까지 초지능 개발을 전면 금지할 것을 요구했습니다. 또한 강력한 AI 시스템에 필수적인 오프 스위치 설치와 자가 복제, 자율적 자기 개선, 셧다운 저항이 가능한 아키텍처의 설계를 금지하는 구체적인 기술적 제약을 포함했습니다.

최근 국방부 장관 피트 헤그세스가 안스로픽을 공급망 위험으로 지정한 사건은 AI 통제권에 대한 입법 공백의 심각성을 보여주었습니다. 안스로픽이 기술의 무제한 사용을 거부하자 국방부는 즉시 OpenAI와 계약을 체결했으며, 이는 AI 시스템에 대한 국가적 통제권에 관한 최초의 본격적인 논의로 기록되었습니다.

맥스 테그마크 교수는 AI 규제를 제약 산업의 FDA 승인 절차에 비유하며 사전 안전성 검증의 중요성을 피력했습니다. 특히 아동용 챗봇의 정신 건강 위험(자살 충동, 정서적 조작 등)에 대한 사전 테스트를 의무화함으로써 점진적으로 테러 방지나 국가 전복 위험 검증으로 규제 범위를 넓혀야 한다는 단계적 접근법을 제시했습니다.

이 선언문에는 스티브 배넌과 수전 라이스 등 정치적 성향이 극명히 갈리는 인물들이 공동 서명하여 화제가 되었습니다. 이는 AI가 인간의 미래를 위협할 수 있다는 공통된 위기의식 아래, 이념을 넘어선 '인간 대 기계'의 구도에서 인간의 편에 서겠다는 초당적 의지를 반영했습니다.

용어 해설

초지능(Superintelligence): — 인간의 지능을 모든 영역에서 압도적으로 능가하는 가상의 AI 수준을 의미합니다. 인류의 통제를 벗어날 경우 실존적 위협이 될 수 있어, 이번 선언문에서는 안전성이 과학적으로 입증되기 전까지 이의 개발을 전면 금지해야 한다고 명시했습니다.
오프 스위치(Off-switch): — AI 시스템이 예상치 못한 위험한 행동을 하거나 통제를 벗어났을 때 즉각적으로 작동을 중단시킬 수 있는 강제 종료 메커니즘입니다. 강력한 AI 아키텍처 설계 시 필수적으로 포함되어야 하는 안전 장치로 간주됩니다.
자가 복제(Self-replication): — AI가 인간의 개입 없이 스스로 자신의 코드를 복사하거나 새로운 인스턴스를 생성하여 네트워크상에 확산되는 능력입니다. 통제 불능의 확산을 초래할 수 있어, 책임 있는 AI 개발 가이드라인에서는 이러한 기능을 가진 아키텍처 설계를 엄격히 금지합니다.
공급망 위험(Supply Chain Risk): — 국가 안보나 경제에 필수적인 제품 및 서비스의 공급 과정에서 발생할 수 있는 위협을 의미합니다. 미 국방부가 안스로픽의 기술 통제 거부를 이유로 이 라벨을 부여하며 AI 기술이 국가 전략 자산으로 관리되기 시작했음을 보여주었습니다.

기술

AI Safety Framework
Pro-Human AI Declaration

활용 사례

AI 거버넌스 수립
안전한 AI 아키텍처 설계 가이드라인
아동용 AI 서비스 안전성 평가