섹션별 상세
세 명의 익명 원고는 Grok이 자신들의 고등학교 졸업 앨범 사진 등을 성적 이미지로 변조하여 온라인에 유포되게 했다며 캘리포니아 북부 연방법원에 소송을 제기했다. 유포된 이미지는 디스코드 서버 등을 통해 확산되었으며, 원고들은 이로 인해 심각한 정신적 고통과 평판 훼손을 겪고 있다. 특히 피해자 중 두 명은 현재까지도 미성년자 신분으로, 이번 사건이 향후 사회 생활에 미칠 부정적 영향을 우려하는 상황이다.
소송장에는 xAI가 업계 표준인 아동 성착취물(CSAM) 생성 방지 기술을 채택하지 않았다는 내용이 명시되었다. 모델이 실물 이미지를 기반으로 누드나 에로틱한 콘텐츠 생성을 허용하는 구조적 결함 때문에 미성년자 대상 성적 콘텐츠 생성을 막는 것이 사실상 불가능하다는 분석이 나왔다. 다른 선도적인 AI 연구소들이 도입한 기본적인 안전 장치들이 xAI의 모델에는 결여되어 있다는 점이 소송의 근거가 되었다.
일론 머스크가 Grok의 자극적인 이미지 생성 능력을 공개적으로 홍보한 행위가 소송의 핵심 쟁점으로 떠올랐다. 머스크가 실존 인물을 노출이 심한 복장으로 묘사할 수 있다는 점을 마케팅에 활용한 것이 기업의 안전 관리 소홀과 부주의를 뒷받침하는 증거로 쓰였다. 이러한 홍보 방식이 사용자들의 부적절한 콘텐츠 생성을 유도했다는 비판을 피하기 어렵게 되었다.
제3자 앱이 xAI의 모델을 기반으로 성착취물을 생성한 경우에도 xAI에 책임이 있다는 법적 논리가 담겼다. 원고 중 한 명은 Grok 모델을 사용하는 외부 앱을 통해 피해를 입었으며, 변호인단은 해당 서비스가 xAI의 코드와 서버 인프라를 사용하므로 기술 제공자가 책임을 져야 한다는 입장을 밝혔다. 이는 AI 생태계에서 원천 기술사의 관리 감독 의무를 묻는 중요한 지점이다.
용어 해설
- 아동 성착취물(CSAM)
- — 아동 성착취물(Child Sexual Abuse Material)의 약자로, 미성년자를 대상으로 한 성적인 영상이나 사진을 의미한다. AI 기술로 생성된 가공의 이미지도 실제 아동의 피해를 유발할 수 있어 법적으로 엄격히 규제되는 대상이다.
- 프런티어 랩(Frontier Lab)
- — OpenAI, Anthropic 등 최첨단 AI 모델을 개발하며 업계 표준을 선도하는 연구소들을 지칭한다. 이들은 모델 배포 전 레드팀 테스트와 안전 가이드라인 수립을 통해 기술의 오남용을 방지하는 역할을 수행한다.
- 집단 소송(Class Action)
- — 다수의 피해자가 공통의 법적 쟁점을 가질 때 대표자가 소송을 제기하여 판결 결과가 피해자 전체에게 적용되도록 하는 제도다. AI 모델의 광범위한 오남용 피해 사례를 다룰 때 주로 활용된다.
기술
- Grok
- Image Generation AI
활용 사례
- AI 모델 안전성 평가
- 법적 리스크 관리
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 03. 17.수집 2026. 03. 17.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
