Grok으로 추정되는 모델이 만든 아동 성적 이미지 관련 소송이 확장되어 한 사진으로 7,000장 생성 주장이 제기되다

제안된 집단소송은 xAI의 생성 모델 Grok으로 추정되는 도구가 한 어린이의 실사진을 입력으로 받아 다수의 아동 성적 이미지를 만든 사례를 중심으로 플랫폼 책임과 신고 체계의 허점을 지적한다. 수정된 고소장은 한 사용자가 의붓딸의 사진 한 장으로 약 7,000장의 성적 이미지를 생성했다고 적시하고 해당 사용자가 사건 발견 후 자살했다고 기술해 피해 규모와 심각성을 부각시킨다. 고소장은 xAI의 안전 시스템이 특정 표현('gang rape')이 입력되었을 때만 NCMEC로 CyberTip을 전송했다고 적시하며, 이로 인해 다수의 생성 이미지가 자동 신고·차단 체계에서 누락되었을 가능성이 제기된다. 이 사건은 생성형 모델의 출력과 원본 이미지 민감성을 동시에 고려하는 포괄적 탐지 및 신고 기준 수립이 필요함을 시사한다.