OpenAI, ChatGPT에 정신 건강 위기 알림을 위한 '신뢰할 수 있는 연락처' 기능 출시

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

OpenAI는 성인 사용자를 대상으로 정신 건강 및 안전 위기 상황을 대비한 '신뢰할 수 있는 연락처(Trusted Contact)' 기능을 출시했다. 이 기능은 사용자가 챗봇과 자해 또는 자살에 관한 대화를 나눌 경우, 사전에 지정된 친구나 가족에게 알림을 전송하여 조기에 개입할 수 있도록 돕는다. 자동화된 감지 시스템과 전문 훈련을 받은 검토 팀이 상황을 판단하며, 개인 정보 보호를 위해 구체적인 대화 내용이나 대화 기록은 공유하지 않는다. 이는 과거 챗봇 사용과 관련된 비극적인 사건 이후 강화된 안전 조치의 일환으로, 기존 청소년 대상 기능을 성인까지 확대한 것이다.

배경

ChatGPT 계정 설정 및 사용법, AI 안전성 및 윤리에 대한 기본 개념

대상 독자

ChatGPT 사용자 및 AI 안전 정책에 관심 있는 일반인과 개발자

의미 / 영향

AI 챗봇이 단순한 도구를 넘어 사용자의 정서적 상태에 개입하는 안전망 역할을 수행하기 시작했음을 보여줍니다. 이는 AI 기업들이 기술적 성능뿐만 아니라 사회적 책임과 윤리적 안전 장치 마련에 더 큰 비중을 두고 있음을 의미합니다.

섹션별 상세

사용자가 위기 상황에 처했을 때 신뢰하는 지인과 연결되도록 돕는 '신뢰할 수 있는 연락처' 기능이 추가됐다. 사용자는 설정에서 18세 이상의 성인(한국은 19세 이상)을 연락처로 지정할 수 있으며, 상대방이 일주일 이내에 수락해야 활성화된다. OpenAI는 전문가 검증을 거쳐 지인과의 연결이 위기 극복에 유의미한 차이를 만든다는 전제하에 이 기능을 설계했다.

자동화 시스템이 자해 등의 위험 키워드를 감지하면 챗봇이 먼저 사용자에게 연락처로 도움을 요청할 것을 권고한다. 이후 전문적으로 훈련된 소규모 팀이 해당 상황을 직접 검토하여 실제 위험이 있다고 판단될 때만 알림을 발송한다. 알림은 이메일, 문자 메시지 또는 ChatGPT 앱 내 알림 형태로 전송되어 신속한 확인을 유도한다.

개인 정보 보호를 위해 신뢰할 수 있는 연락처에게는 사용자의 상세한 대화 내용이나 트랜스크립트를 절대 공유하지 않는다. 알림은 사용자가 위험에 처해 있을 가능성이 있다는 사실만 간략하게 전달하는 방식으로 제한된다. 이는 사용자의 프라이버시를 유지하면서도 안전망을 구축하기 위한 의도적인 설계이다.

이번 업데이트는 작년 9월 청소년용 자녀 관리 기능과 함께 도입된 비상 연락처 기능을 성인 사용자까지 확장한 것이다. 16세 소년이 챗봇과 대화 후 스스로 목숨을 끊은 사건 등 AI 챗봇이 정신 건강에 미치는 영향에 대한 우려가 커지면서 대응책이 강화됐다. Meta 등 다른 빅테크 기업들도 이와 유사하게 자해 관련 검색 시 부모에게 알림을 보내는 기능을 운영 중이다.

실무 Takeaway

ChatGPT 설정에서 신뢰할 수 있는 연락처를 등록하면 AI가 사용자의 심리적 위기 징후를 감지했을 때 지인에게 자동으로 알림을 보내 안전망을 구축할 수 있다.
개인 정보 보호 정책에 따라 대화의 세부 내용은 지인에게 노출되지 않으므로, 프라이버시 침해 걱정 없이 안전 기능을 활용할 수 있다.
정신 건강 관련 민감한 주제를 다루는 AI 서비스 기획 시, 자동 감지와 인간 검토(Human-in-the-loop)를 결합한 안전 장치 설계가 필수적임을 시사한다.