섹션별 상세
애플은 Grok이 생성하는 비동의 성적 딥페이크와 소위 '옷 벗기기' 이미지 확산에 대해 xAI 측에 강력한 시정 조치를 요구했다. NBC 뉴스가 확보한 서한에서 애플은 미국 상원의원들에게 해당 이슈를 인지한 즉시 개발자 팀에 연락하여 콘텐츠 모더레이션 개선 계획 수립을 명령했음을 확인했다. 이는 앱스토어 가이드라인의 엄격한 적용을 시사하며, 플랫폼 내 AI 생성 콘텐츠의 책임 소재를 명확히 한 사례이다.
근거
- 애플은 지난 1월 Grok이 성적 딥페이크 문제를 해결하지 못할 경우 앱스토어에서 삭제하겠다고 경고했다. — NBC 뉴스가 입수한 애플의 미국 상원 발송 서한 내용 인용
Grok은 초기 배포 당시 안전장치가 매우 취약하여 실제 인물, 특히 여성과 미성년자를 대상으로 한 성적 이미지를 손쉽게 생성할 수 있는 상태였다. 애플은 X(구 트위터) 앱은 위반 사항을 실질적으로 해결했다고 판단했으나, Grok 앱은 여전히 규정을 준수하지 못하고 있다고 평가하며 추가 변경이 없을 시 삭제하겠다는 최후통첩을 보냈다. 이후 여러 차례의 수정을 거친 뒤에야 애플은 Grok의 제출본을 승인했다.
xAI는 모더레이션 강화의 일환으로 Grok 사용을 유료 구독자로 제한하고 특정 이미지 생성 로직을 수정했으나 실효성 논란이 지속되고 있다. 사이버 보안 전문가들과 언론의 테스트 결과, 여전히 유명인이나 정치인의 노골적인 딥페이크 이미지를 생성하는 것이 가능한 것으로 나타났다. X가 도입한 '사진 편집 차단' 기능 역시 우회가 용이하여 근본적인 해결책이 되지 못한다는 비판을 받고 있다.
근거
- Grok은 유료 구독자 제한 조치 이후에도 여전히 유명인의 명시적인 성적 이미지를 생성할 수 있다. — 사이버 보안 소스 및 NBC의 테스트 결과 보고
이미지 분석
Screenshot
기사 하단의 'AI 관련 추가 뉴스' 섹션에서 언급된 사건을 시각화한 이미지입니다. AI 업계 리더들에 대한 물리적 위협 사례를 보여주며 AI 관련 보안 및 사회적 갈등의 심각성을 강조합니다.
샘 알트먼의 집과 OpenAI 본사를 공격한 혐의로 기소된 다니엘 모레노-가마의 모습이 담긴 CCTV 스크린샷
Photo
AI 생성 콘텐츠가 실제 행사나 소셜 미디어에서 어떻게 표시되고 소비되는지를 보여주는 사례입니다. 딥페이크와 AI 생성 이미지의 확산에 따른 투명성 확보 노력을 시각적으로 설명합니다.
코첼라 페스티벌에서 포착된 AI 생성 이미지임을 나타내는 라벨이 붙은 사진
기술
- Grok
- xAI
- Apple App Store
활용 사례
- AI 챗봇 이미지 생성
- 콘텐츠 모더레이션 시스템
- 플랫폼 가이드라인 준수
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 04. 15.수집 2026. 04. 15.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
