이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.
TL;DR
Meta가 성적 콘텐츠를 금지하는 정책을 두고도 실존 여성 정치인을 닮은 인물을 음란 영상으로 바꾸는 Kromix 광고를 플랫폼에 노출했습니다. Kromix 광고는 제한이 없고 모든 등장인물이 실제 사람이라는 점을 내세웠으며, 앱은 유료 사용자의 사진을 “bedroom rape” 같은 시나리오에 활용하도록 했습니다. Apple App Store 등록과 운영자 무응답까지 겹치면서 비동의 성적 이미지 생성 도구가 광고와 앱 유통망을 통해 확산되는 경로가 드러났습니다.
섹션별 상세
Meta의 광고 시스템이 성적 콘텐츠를 금지하는 자체 정책에도 불구하고 Kromix의 AI 음란물 생성 도구 광고를 노출했습니다. 광고는 여성 미국 정치인과 매우 닮은 인물을 미국 국기와 대통령의 국기 앞에 세운 뒤, 같은 얼굴의 여성이 음란 영상에 등장하는 장면으로 전환했습니다. 이 사례는 실존 인물을 겨냥한 성적 딥페이크 도구의 유통을 Meta가 막지 못한 연속적인 관리 실패의 일부로 제시됩니다.
근거
- Meta가 성적 콘텐츠를 금지하는 정책에도 불구하고 Kromix의 AI 음란물 생성 도구 광고를 집행했습니다. — 기사 첫 문단의 Meta 광고 정책 위반 및 연속적인 실패에 관한 서술 출처
Kromix는 자신을 “AI image styler”로 홍보하면서 “no restrictions”와 “all the characters are real people”이라는 음성 광고 문구를 사용했습니다. 광고는 남성이 실제로 사용하는 AI라는 표현과 함께 특정 여성 정치인을 연상시키는 얼굴을 성적 장면에 연결해 사용자의 관심을 끌었습니다. 실존 인물의 얼굴을 입력하고 제한 없이 성적 상황을 생성한다는 홍보 방식이 비동의 이미지 위험을 직접 키웠습니다.
근거
- Kromix 광고는 여성 미국 정치인과 닮은 얼굴을 음란 영상에 연결했습니다. — 두 번째 문단의 미국 국기와 대통령의 국기 앞 장면 이후 음란 영상으로 전환되는 광고 묘사 출처
Kromix 앱은 Apple App Store에 등록돼 있었고, 유료 사용자가 사진을 올려 “bedroom rape”와 “Disney love”를 포함한 시나리오에 활용하도록 했습니다. 앱에 게시된 영상에는 Spider-Man 의상을 입은 여성의 AI 음란 영상도 포함됐으며, 앱에 기재된 연락처로 보낸 질의에는 답변이 없었습니다. 광고 플랫폼뿐 아니라 앱 유통 경로와 서비스 운영자가 유해한 생성 기능을 걸러내는지까지 문제가 확장됩니다.
용어 해설
- 딥페이크(Deepfake)
- — 인공지능으로 실제 인물의 얼굴이나 신체를 다른 영상에 합성하는 기술입니다. 이 기사에서는 여성 미국 정치인과 닮은 얼굴을 음란 영상에 결합해 당사자가 실제로 등장한 것처럼 보이게 만드는 방식으로 쓰였습니다. 동의 없는 성적 이미지 제작과 배포에 악용될 수 있다는 점이 핵심 문제입니다.
- 동의 없는 성적 이미지(Nonconsensual Intimate Imagery)
- — 당사자의 허락 없이 나체나 성적 행위를 담은 이미지와 영상을 만들거나 유포하는 행위입니다. Kromix는 사용자가 사진을 올리면 특정 인물을 성적 상황에 배치하는 기능을 제공했고, Meta는 이런 도구의 광고를 차단하지 못했습니다. 피해자의 사생활과 명예를 직접 침해할 수 있습니다.
- AI 이미지 스타일러(AI Image Styler)
- — 입력한 사진이나 인물 이미지를 바탕으로 새로운 장면과 시각적 스타일을 생성하는 애플리케이션을 가리킵니다. Kromix는 스스로를 이 표현으로 홍보했지만, 실제 광고와 앱 기능에는 실존 인물을 성적 장면에 넣는 용도가 포함됐습니다. 명칭과 실제 사용 위험 사이의 차이가 문제를 키웠습니다.
- 누드화(Nudification)
- — 사진 속 인물에게 실제로 존재하지 않는 나체 상태를 합성하는 이미지 생성 행위입니다. 기사 속 광고는 여성 정치인과 닮은 인물을 음란 영상으로 전환하는 흐름을 보여 주며 이 기능을 사실상 홍보했습니다. 당사자의 동의가 없으면 성적 딥페이크와 연결됩니다.
기술
- Kromix
- AI image styler
- Apple App Store
활용 사례
- 실존 인물 얼굴을 음란 영상에 합성하는 성적 딥페이크
- 사진을 특정 성적 시나리오에 배치하는 이미지·영상 생성
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 08. 20.수집 2026. 08. 20.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
