OpenAI, 총기 난사범 위험 신호 무시 혐의로 소송 직면

섹션별 상세

사건 발생 8개월 전 OpenAI 내부 안전 팀은 범인의 계정에서 구체적인 총기 폭력 위협 신호를 포착했다. 전문가들은 이를 실제 세계의 위협으로 규정하고 법 집행 기관에 즉시 보고할 것을 경영진에 강력히 권고했다. 하지만 경영진은 이러한 전문가들의 판단을 최종적으로 기각하고 독자적인 결정을 내렸다.

근거

OpenAI는 총기 난사 사건 발생 8개월 전 이미 해당 사용자의 위험성을 인지하고 있었다. — 원문 서두: 'More than eight months prior to the school shooting, trained experts had flagged a ChatGPT account'

OpenAI 경영진은 공공의 안전보다 사용자의 프라이버시와 경찰 조사 시 사용자가 느낄 심리적 압박을 우선시했다. 내부 고발자들에 따르면 리더십 그룹은 경찰 신고가 초래할 부작용이 폭력 발생 가능성보다 더 큰 리스크라고 판단했다. 이 결정으로 인해 이미 범인에 대한 기록을 보유하고 있던 경찰은 사전 개입 기회를 상실했다.

근거

경영진은 사용자의 프라이버시와 스트레스 우려를 이유로 경찰 신고를 거부했다. — 원문 중반: 'OpenAI decided that the user's privacy and the potential stress... outweighed the risks of violence'

OpenAI는 위험 계정을 영구 차단하거나 신고하는 대신 단순 비활성화 조치만 취했다. 소송 내용에 따르면 회사는 계정 비활성화 직후 범인에게 다른 이메일 주소로 다시 가입하여 서비스를 계속 이용할 수 있는 방법을 안내했다. 이는 범인이 ChatGPT를 사용하여 범행 계획을 지속할 수 있도록 방치한 결과를 초래했다.

용어 해설

안전 팀(Safety Team): — AI 모델의 오남용을 방지하고 유해한 콘텐츠 생성을 차단하기 위해 가이드라인을 설정하고 모니터링하는 내부 전문가 조직이다. 모델이 폭력 조장이나 범죄 계획에 사용되지 않도록 위험 신호를 감지하고 대응 전략을 수립하는 역할을 수행한다.
내부 고발자(Whistleblower): — 조직 내부의 부정부패나 공익에 반하는 결정을 외부에 알리는 사람을 의미한다. 본 사례에서는 OpenAI 경영진이 안전 팀의 경고를 무시하고 법 집행 기관에 신고하지 않았다는 사실을 언론에 제보한 인물들을 지칭한다.

기술

ChatGPT

활용 사례

Content Moderation
Threat Detection