섹션별 상세
사용자가 위기 상황에 처했을 때 신뢰하는 지인과 연결되도록 돕는 '신뢰할 수 있는 연락처' 기능이 추가됐다. 사용자는 설정에서 18세 이상의 성인(한국은 19세 이상)을 연락처로 지정할 수 있으며, 상대방이 일주일 이내에 수락해야 활성화된다. OpenAI는 전문가 검증을 거쳐 지인과의 연결이 위기 극복에 유의미한 차이를 만든다는 전제하에 이 기능을 설계했다.
근거
- 한국 사용자의 경우 19세 이상의 성인만 신뢰할 수 있는 연락처로 지정 가능하다. — 18+ globally or 19+ in South Korea in their ChatGPT account settings
자동화 시스템이 자해 등의 위험 키워드를 감지하면 챗봇이 먼저 사용자에게 연락처로 도움을 요청할 것을 권고한다. 이후 전문적으로 훈련된 소규모 팀이 해당 상황을 직접 검토하여 실제 위험이 있다고 판단될 때만 알림을 발송한다. 알림은 이메일, 문자 메시지 또는 ChatGPT 앱 내 알림 형태로 전송되어 신속한 확인을 유도한다.
개인 정보 보호를 위해 신뢰할 수 있는 연락처에게는 사용자의 상세한 대화 내용이나 트랜스크립트를 절대 공유하지 않는다. 알림은 사용자가 위험에 처해 있을 가능성이 있다는 사실만 간략하게 전달하는 방식으로 제한된다. 이는 사용자의 프라이버시를 유지하면서도 안전망을 구축하기 위한 의도적인 설계이다.
근거
- 신뢰할 수 있는 연락처 기능은 사용자의 대화 세부 내용이나 기록을 연락처와 공유하지 않는다. — OpenAI says that the notification is “intentionally limited” and will not share chat details or transcripts
이번 업데이트는 작년 9월 청소년용 자녀 관리 기능과 함께 도입된 비상 연락처 기능을 성인 사용자까지 확장한 것이다. 16세 소년이 챗봇과 대화 후 스스로 목숨을 끊은 사건 등 AI 챗봇이 정신 건강에 미치는 영향에 대한 우려가 커지면서 대응책이 강화됐다. Meta 등 다른 빅테크 기업들도 이와 유사하게 자해 관련 검색 시 부모에게 알림을 보내는 기능을 운영 중이다.
기술
- ChatGPT
- OpenAI
활용 사례
- 정신 건강 위기 모니터링
- 사용자 안전 보호 시스템
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 05. 08.수집 2026. 05. 08.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
