로넌 패로우의 OpenAI 내부 폭로: 샘 알트먼의 기만과 안전성 문제

실용적 조언

OpenAI의 API를 사용하는 기업은 향후 정책 변화나 거버넌스 리스크에 대비한 멀티 모델 전략을 고려해야 한다.
AI 안전성을 중시하는 연구자나 개발자는 기업의 공개적인 선언보다 실제 자원 배분과 팀 구조를 확인해야 한다.

섹션별 상세

샘 알트먼의 해임 사유가 안전 프로토콜에 대한 지속적인 기만과 거짓말이었음이 내부 메모를 통해 확인됐다. 일리야 수츠케버가 작성한 메모에는 알트먼이 일관된 기만 패턴을 보인다는 내용이 포함됐다. 이사회는 해임 당시 알트먼에게 이러한 패턴을 인정할 것을 압박했으나 그는 자신의 성격을 바꿀 수 없다고 답했다. 이는 CEO와 이사회 간의 근본적인 신뢰 결여가 해임의 핵심 원인이었음을 시사한다.

슈퍼얼라이먼트 팀에 약속된 컴퓨팅 자원이 실제로는 거의 배정되지 않았다는 사실이 밝혀졌다. OpenAI는 공개적으로 전체 컴퓨팅 자원의 20%를 할당하겠다고 약속했으나 실제로는 구형 하드웨어에서 1-2%만 제공했다. 해당 팀은 결국 임무를 완수하지 못한 채 해체됐다. 이는 기업의 대외적인 안전 강조 행보와 내부적인 실제 자원 배분 사이에 심각한 괴리가 있었음을 보여준다.

OpenAI가 앤스로픽과 달리 펜타곤과 대규모 군사 인프라 계약을 체결한 과정이 공개됐다. 앤스로픽은 자율 살상 무기 금지 원칙을 고수하며 펜타곤의 최후통첩을 거부했으나 알트먼은 겉으로는 연대를 표방하면서도 뒤로는 협상을 진행했다. 결국 OpenAI는 모델을 군사 인프라에 통합하는 500억 달러 규모의 계약을 발표했다. 이는 OpenAI가 초기 비영리 정신에서 벗어나 군사적 활용으로 방향을 선회했음을 입증한다.

마이크로소프트 임원들은 샘 알트먼과의 관계를 매우 위태로운 상태로 묘사했다. 알트먼이 합의 사항을 왜곡하거나 번복하고 약속을 어기는 행태를 보였다는 증언이 잇따랐다. 특히 초기에는 AI 기술을 러시아나 중국 등 강대국 간의 입찰 경쟁에 붙이려는 논의까지 내부에서 진행됐다. 이러한 리더십 스타일은 주요 파트너사와의 장기적인 신뢰 관계에 부정적인 영향을 미치고 있다.

용어 해설

슈퍼얼라이먼트(Superalignment): — 인간보다 지능이 높은 초지능 AI 시스템이 인간의 의도와 가치에 부합하도록 제어하고 정렬하는 기술적 방법론이다. OpenAI는 이 목표를 위해 전용 팀을 구성했으나 자원 배분 문제로 해체됐다. 초지능 발생 시 인류의 안전을 보장하기 위한 핵심 연구 분야이다.
존재론적 안전(Existential Safety): — 고도로 발달한 AI가 인류의 생존 자체를 위협할 가능성을 차단하고 안전을 확보하는 연구 분야이다. 기술적 통제 불능이나 의도치 않은 목표 설정으로 인한 파멸적 시나리오를 방지하는 것이 핵심이다. AI 연구 윤리와 거버넌스에서 가장 논쟁적인 주제 중 하나이다.
컴퓨팅 자원(Compute): — AI 모델을 학습시키고 실행하는 데 필요한 GPU 연산 능력과 하드웨어 인프라를 의미한다. 모델의 성능과 연구 속도를 결정하는 가장 중요한 물리적 자산이다. 대규모 언어 모델 개발에서 컴퓨팅 자원의 확보와 배분은 기업의 전략적 우선순위를 나타낸다.