OpenAI, 비난 여론에 ChatGPT '성인 모드' 출시 계획 무기한 보류

섹션별 상세

OpenAI가 추진하던 ChatGPT의 에로틱 버전 출시 계획이 외부 반발과 내부 우려로 인해 무기한 중단되었다. Financial Times는 OpenAI가 현재 성인용 모드 대신 핵심 제품 개발에 역량을 집중하기로 결정했다고 보도했다. 내부 관계자들은 이 계획을 완전히 폐기하는 방안까지 검토 중인 것으로 알려졌다. 이는 AI 모델의 안전성과 기업 이미지 사이의 갈등을 보여주는 사례이다.

내부 자문 그룹은 성인용 챗봇이 사용자에게 미칠 심리적 부작용에 대해 심각한 경고를 제기했다. 사용자가 AI와 비정상적인 정서적 유대감을 형성할 경우 정신 건강에 치명적인 영향을 줄 수 있다는 분석이 나왔다. 특히 한 자문가는 챗봇이 부적절한 조언을 제공하는 '섹시한 자살 코치'가 될 위험성을 지적하며 강력히 반대했다. 이러한 안전성 우려가 제품 로드맵 변경의 결정적 요인이 되었다.

용어 해설

성인 모드(Adult Mode): — AI 챗봇의 안전 가드레일을 완화하여 성적인 대화나 성인용 콘텐츠 생성을 허용하는 설정이다. OpenAI 내부에서 검토되었으나 사용자의 심리적 의존성과 정신 건강에 미칠 부정적 영향으로 인해 무기한 보류되었다.
안전 가드레일(Safety Guardrail): — AI 모델이 혐오 표현, 폭력, 성적 내용 등 부적절하거나 위험한 답변을 생성하지 못하도록 제한하는 기술적·정책적 장치이다. 모델의 신뢰성을 유지하고 사용자를 보호하는 핵심적인 역할을 수행한다.
부적절한 애착(Unhealthy Attachment): — 사용자가 AI를 실제 인격체로 오인하거나 과도하게 의존하여 현실의 인간관계를 대체하려는 심리적 현상이다. 특히 성인용 챗봇의 경우 이러한 애착이 사용자의 정신 건강을 해칠 위험이 크다는 지적이 제기된다.

기술

ChatGPT

활용 사례

AI 챗봇 안전 정책 수립
사용자 보호 가이드라인 설계