앤스로픽, 핵심 안전 정책인 '책임 있는 확장 정책(RSP)' 전면 개편 및 서약 폐기

핵심 요약

앤스로픽이 시장 경쟁과 기술 발전 속도를 이유로 안전 조치 보장 전 모델 학습을 중단하겠다는 기존의 핵심 안전 서약을 폐기하고 RSP를 개편했다.

배경

앤스로픽이 자사의 핵심 안전 가이드라인인 '책임 있는 확장 정책(RSP)'을 대폭 수정하며, 안전이 보장되지 않을 경우 학습을 중단하겠다는 기존 약속을 철회했다는 소식이 TIME지를 통해 보도되었다.

의미 / 영향

이번 사태는 AI 안전을 위한 기업의 자율 규제가 시장 경쟁 앞에서는 한계가 있음을 명확히 보여준다. 앤스로픽의 정책 변화는 향후 AI 업계 전반의 안전 표준이 하향 평준화될 수 있다는 우려를 낳으며, 공공 규제의 필요성에 대한 논의를 가속화할 가능성이 크다.

커뮤니티 반응

커뮤니티에서는 앤스로픽의 초심이 변했다는 실망 섞인 반응과, 치열한 AI 경쟁 환경에서 어쩔 수 없는 현실적인 선택이라는 옹호론이 대립하고 있다.

주요 논점

01반대다수

안전을 최우선으로 하겠다던 초심을 잃고 일반적인 빅테크 기업들과 다를 바 없는 길을 가고 있다.

02중립소수

경쟁이 치열한 AI 시장에서 한 기업만 속도를 늦추는 것은 자살 행위나 다름없으므로 이해할 수 있는 결정이다.

합의점 vs 논쟁점

합의점

AI 안전과 개발 속도 사이의 균형을 잡는 것이 기업 입장에서 매우 어렵다.
앤스로픽의 이번 결정이 업계 전반의 안전 표준에 영향을 미칠 것이다.

논쟁점

앤스로픽이 여전히 다른 기업들보다 안전한 모델을 만들 의지가 있는지 여부
일방적인 안전 서약이 실질적인 위험 방지에 효과가 있었는지에 대한 의문

전문가 의견

자레드 카플란 최고과학책임자는 경쟁사들이 앞서가는 상황에서 일방적인 서약을 유지하는 것은 합리적이지 않다고 발언했다.

섹션별 상세

앤스로픽은 2023년에 발표한 RSP의 핵심 원칙인 '안전 조치가 적절하다는 것을 사전에 보장할 수 없는 경우 AI 시스템을 학습시키지 않겠다'는 약속을 공식적으로 폐기했다. 이는 그동안 앤스로픽이 스스로를 가장 안전 중심적인 AI 연구소로 차별화해 온 근간을 흔드는 결정이다. 과거 앤스로픽 리더들은 이 약속을 시장의 압박 속에서도 위험한 기술 개발을 서두르지 않겠다는 증거로 내세웠으나, 최근 이를 전면 개편하기로 결정했다.

자레드 카플란(Jared Kaplan) 앤스로픽 최고과학책임자는 TIME과의 인터뷰에서 모델 학습을 중단하는 것이 실질적으로 누구에게도 도움이 되지 않는다고 판단했다고 밝혔다. 특히 AI 기술이 급격히 발전하는 상황에서 경쟁사들이 빠르게 앞서 나가는 가운데 앤스로픽만 일방적인 약속을 고수하는 것은 무의미하다는 인식이 반영됐다. 이는 안전보다 시장 경쟁력을 우선시하는 전략적 변화로 해석된다.

이번 정책 개편으로 인해 앤스로픽이 표방해 온 '가장 안전한 AI 기업'이라는 정체성에 의문이 제기됐다. 기존 RSP는 위험 완화 조치가 선행되지 않으면 모델 출시를 하지 않겠다는 강력한 제동 장치 역할을 했으나, 이제는 그러한 보장 없이도 학습과 출시가 가능해진 구조다. 이는 AI 안전을 위한 자율 규제가 시장 논리 앞에서 얼마나 취약할 수 있는지를 보여주는 사례로 평가받는다.

실무 Takeaway

앤스로픽이 안전 보장 전 학습 중단이라는 RSP의 핵심 서약을 공식 철회했다.
기술 발전 속도와 경쟁사와의 격차 우려가 정책 변경의 주요 원인으로 작용했다.
앤스로픽의 정체성이었던 '안전 최우선' 기조가 시장 논리에 의해 약화되고 있다.
자율적인 AI 안전 가이드라인이 실제 경쟁 상황에서 유지되기 어려움이 확인됐다.