이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.
TL;DR
Meta가 Facebook과 Instagram에서 AI로 만든 아동 성착취물 광고를 탐지하고 삭제하는 데 며칠이 걸렸으며, Tech Transparency Project는 올해 이러한 광고 332개를 발견했다고 밝혔습니다. 광고의 대다수는 중국에서 제작된 AI 앱을 홍보했고, 일부는 사진 속 인물을 성적으로 변형하는 이른바 누디파이 앱과 관련됐습니다. 조사팀은 유럽 왕실의 어린 구성원과 14세 Instagram 인플루언서 등 실제 아동의 온라인 사진이 광고에 사용된 사례를 여러 건 확인했습니다. 미국 법무부가 AI로 생성된 CSAM도 기존 CSAM만큼 해롭다고 밝힌 가운데, 해당 광고는 연방법 위반 소지가 있습니다.
섹션별 상세
Tech Transparency Project는 올해 Meta의 Facebook과 Instagram에서 AI로 만든 아동 성착취물 광고 332개를 발견했습니다. Meta가 일부 광고를 삭제하는 데는 며칠이 걸렸고, 광고의 대다수는 중국에서 제작된 AI 앱을 홍보했습니다. 광고 검출과 삭제가 지연되면서 실제 아동의 사진이 성적 합성물 제작에 재사용되는 구조가 드러났습니다.
광고에는 악의적 이용자가 사진 속 인물을 성적으로 변형할 수 있는 누디파이 앱이 포함됐습니다. 이 앱은 온라인에서 가져온 아동 사진을 입력받아 이미지나 영상을 디지털로 조작하는 방식으로 사용됐으며, 일부 광고는 사진을 성적 행위 영상으로 애니메이션화했습니다. 실제 사진을 기반으로 한 조작물이 광고 시스템을 통해 유통되면서 피해 아동의 이미지가 추가로 확산될 위험이 커졌습니다.
조사팀은 유럽 왕실의 어린 구성원을 촬영한 보도 사진과 14세 Instagram 인플루언서의 사진이 CSAM 광고에 사용된 사례를 확인했습니다. 또 다른 미성년자의 스톡 사진은 성인이 아동을 성적으로 학대하는 장면으로 변형됐으며, TTP는 여러 광고를 온라인에 공개된 실제 아동 사진과 대조했습니다. 미국 법무부가 AI CSAM도 일반 CSAM과 마찬가지로 해롭다고 밝힌 만큼, 이러한 광고는 연방 아동 음란물 관련 법률을 위반할 소지가 있습니다.
용어 해설
- 아동 성착취물(CSAM)
- — CSAM은 아동을 성적으로 착취하거나 성적 행위를 묘사한 자료를 뜻합니다. 이 글에서는 실제 아동 사진을 AI로 변형한 영상과 이미지까지 포함하며, 미국 법무부는 AI로 생성된 CSAM도 기존 CSAM과 마찬가지로 해롭다고 밝혔습니다.
- 누디파이 앱(Nudify App)
- — 누디파이 앱은 입력한 사진 속 인물의 옷을 벗긴 것처럼 이미지를 디지털 변형하는 AI 앱입니다. 이 글에서는 악의적 이용자가 아동 사진을 성적으로 조작하는 도구로 활용한 사례가 광고를 통해 유통됐습니다.
- AI 생성 아동 성착취물(AI-Generated CSAM)
- — AI 생성 아동 성착취물은 실제 사진이나 합성 이미지를 AI로 변형해 아동의 성적 행위를 묘사한 자료입니다. 실제 피해 아동의 사진을 바탕으로 만들 경우 원본 사진의 온라인 확산과 결합해 추가 피해를 일으킬 수 있으며, 미국 법무부는 이를 일반적인 CSAM과 동일하게 유해한 대상으로 봅니다.
- 디지털 이미지 조작(Digital Image Manipulation)
- — 디지털 이미지 조작은 기존 사진의 인물이나 장면을 소프트웨어로 바꾸는 처리입니다. 기사에 나온 광고에서는 실제 아동의 사진을 AI로 애니메이션 영상이나 성적 학대 장면으로 변형하는 데 사용됐습니다.
기술
- AI
- nudify apps
활용 사례
- 아동 사진의 성적 이미지·영상 변형
- AI 앱 광고를 통한 악성 도구 유통
- 소셜미디어 플랫폼의 CSAM 검출과 삭제
언급된 리소스
문서Tech Transparency Project
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 09. 09.수집 2026. 09. 09.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
