이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.
TL;DR
Tech Transparency Project 연구진이 Meta의 광고 라이브러리에서 AI로 생성된 아동 성적 이미지와 이를 유도하는 'nudify' 앱 광고 수십 건을 찾아 공개했다. 광고들은 썸네일이나 동영상 전개 과정에서 아동 얼굴을 성적 장면에 합성하는 기법을 사용했고 일부는 수일간 노출되어 유럽 내 최대 2,563개 계정에 도달한 기록이 있다. 몇몇 광고는 MaskAI 같은 앱이나 Meet Social로 연결되었고 발견 즉시 NCMEC에 보고된 뒤 Meta와 Apple에서 삭제 조치가 이뤄졌다. 이번 사례는 자동화된 광고 심사와 플랫폼 검열이 진화하는 유해한 생성형 콘텐츠 생태계를 완전히 따라잡지 못한다는 점을 드러낸다.
섹션별 상세
Tech Transparency Project(TTP) 연구진은 Meta의 광고 라이브러리를 조사해 AI로 생성된 아동 성적 이미지와 이를 홍보하는 유료 광고 수십 건을 찾아냈으며, 발견된 광고들은 11월부터 이듬해 8월 사이에 게재된 기록을 보였다. 연구진은 일부 광고가 수일간 활성화된 채로 여러 국가의 계정에 도달했고, 적어도 한 광고는 유럽에서 2,563개 계정에 노출된 것으로 라이브러리 데이터에 나타났다고 보고했다. 이 발견은 플랫폼의 광고 심사와 자동 필터링이 고도화된 생성형 콘텐츠 유통을 추적하는 데 실패할 수 있음을 시사한다.
문제가 된 광고들은 클릭 전 썸네일이나 미리보기에서 아동의 얼굴을 보이게 한 뒤, 동영상을 재생하면 성인 음란 장면으로 전환하거나 그 성인 장면에 아동 얼굴을 합성하는 방식으로 작동했다. 일부 광고는 사용자가 이미지를 업로드하면 얼굴을 교체해 성적 상황으로 합성하는 기능을 가진 MaskAI 같은 앱이나 외부 사이트로 연결되었다. 이러한 기법은 시각적 트릭과 서버 측 합성 기능을 결합해 플랫폼의 초기 자동 검사 단계를 회피하는 구조적 취약성을 악용한다.
대부분의 문제 광고는 발견 시점에 이미 노출이 종료된 상태였지만 광고 라이브러리에서 수개월간 기록으로 남아 있었고, 연구진이 추가 조사하는 동안 추가 광고들이 새로 발견되었다. Meta의 라이브러리 기록은 일부 광고가 작은 도달 수만 기록했더라도 반복적으로 같은 유형의 위반 광고가 올라왔다는 정황을 보여준다. 이 때문에 단발적 삭제가 아니라 광고 계정·도메인 성격을 추적해 재발을 차단하는 조치가 필요하다는 문제가 제기되고 있다.
기사에 따르면 몇몇 광고의 출처는 중국계 업체와 연결됐으며, 특정 광고는 과거 Meta의 광고 재판매 파트너였던 Meet Social과 연관된 것으로 나타났다. MaskAI 같은 앱은 앱스토어에서 처음에는 노출을 드러내지 않다가 설치 후 AI 포르노만 제공하는 식으로 동작했고, WIRED의 접촉 이후 Apple이 MaskAI를 제거했다. 이러한 유통 경로는 플랫폼 바깥의 결제·배포 체인과도 얽혀 있어 단일 플랫폼의 차단만으로는 완전한 차단이 어렵다.
Meta는 광고 심사에 주로 자동화 도구를 사용한다고 밝혔고, 문제가 된 광고들은 회사 정책 위반으로 최종 삭제되었다고 답했다. 회사 측은 최근 도입한 추가 AI 차단 기술이 해당 사례 일부 이후에 적용되었다고 했지만, TTP는 동일하거나 유사한 광고가 플랫폼에서 반복적으로 재등장한 사실을 근거로 자동화 검열의 한계를 지적했다. 플랫폼이 탐지한 위반 콘텐츠를 NCMEC 등 신고 체계로 보고하는 운영 관행은 존재하지만, 광고 라이브러리 수준에서의 신고·추적 인프라는 부족하다는 문제가 남아 있다.
전문가들은 누디파이·딥페이크 업계가 새 광고 계정과 도메인을 신속히 생성해 차단을 회피하는 점을 반복적으로 관찰해 왔으며, 이 때문에 기술적 차단과 법적·국제적 협력의 병행이 필요하다고 본다. 일부 단체는 플랫폼 간에 위반 URL과 도메인 정보를 공유하는 Lantern 같은 협력 도구의 활용을 예로 들었고, 법적 대응과 앱스토어 정책 집행 강화가 병행되어야 한다는 목소리가 제기되었다. 결과적으로 문제 해결은 자동화 필터 고도화뿐 아니라 광고 유통 경로 전반을 겨냥한 조직적 대응을 요구한다.
용어 해설
- 누디파이(undress) 앱(nudify)
- — nudify 앱은 사용자가 올린 사진에서 옷을 '벗긴' 결과물을 생성하도록 설계된 이미지 편집 도구로, 일반적으로 얼굴 합성(face‑swap)과 신체 합성 알고리즘을 결합해 비실제적이지만 현실감 있는 노출 이미지를 만든다. 이들 앱은 모델을 학습해 원본 사진의 신체 특징을 추정한 뒤 합성 결과를 출력하므로 피해자 동의 없이 사생활 침해와 명예 훼손 피해를 유발한다. 플랫폼·앱스토어 심사와 자동 검열을 우회해 확산되기 쉽고, 생성된 이미지가 아동을 대상으로 할 경우 각국에서 형사 처벌 대상이 된다.
- 딥페이크(Deepfake)
- — 딥페이크는 생성형 AI 기술로 특정 인물의 얼굴이나 음성을 다른 영상·음성에 합성하는 기법을 통칭하며, 최근의 모델들은 고해상도 사진 한 장만으로도 그럴듯한 합성을 만든다. 합성 절차는 원본 얼굴의 특징을 추출하고 대상 영상의 표정·조명에 맞춰 이를 합성하는 과정으로 이루어지며, 얼굴 윤곽과 색감을 보정하는 후처리가 빈번하게 들어간다. 악용될 때는 비동의 성적 이미지 제작이나 허위정보 유포 등 심각한 인권·안전 문제를 초래한다.
- AI 생성 아동 성적 학대물(AI-generated CSAM)
- — AI-generated CSAM은 생성형 모델로 만들어낸 아동을 묘사한 성적 이미지나 동영상을 일컫으며, 실제 아동 촬영물이 아니라도 대부분 국가에서 불법으로 간주된다. 생성 과정은 아동 특징을 포함한 얼굴을 성인 성적 장면에 합성하거나, 모델이 아동형태의 신체를 직접 생성하도록 유도하는 프롬프트와 데이터 조합으로 이루어진다. 법적·수사적 대응이 요구되며 플랫폼은 발견 시 즉시 당국과 NCMEC 같은 신고체계로 제보해야 한다.
- 광고 라이브러리(Ad Library)(Meta ad library)
- — 광고 라이브러리는 Meta가 플랫폼에 게재된 유료 광고의 메타데이터를 보관·공개하는 도구로, 광고주, 게재 기간, 타깃 지역 같은 정보를 열람할 수 있다. 이 라이브러리는 정책 위반 광고의 기록 확인과 투명성 제고를 목적으로 운영되지만, 실행 중이지 않은 과거 광고도 열람 가능해 문제가 된 광고가 장기간 노출된 흔적을 남긴다. 다만 라이브러리 자체에서 사용자 신고·차단 기능이 제한적이라 발견과 조치를 연결하는 데 한계가 있다.
- 광고 재판매업체(ad reseller)
- — 광고 재판매업체는 특정 지역에서 광고를 대신 집행하거나 광고 계정을 관리하는 중개 사업자로, 때로는 규제 사각지대에서 대량의 광고를 게시한다. 이들은 다수의 도메인과 계정을 순환시켜 플랫폼의 차단을 회피하고 빠르게 새 광고를 올리는 전술을 사용하며, 공격자들이 반복적으로 동일한 유형의 위법 광고를 노출시키는 데 이용된다. 대응에는 광고주 검증 강화와 플랫폼 간의 범용 블랙리스트 공유 같은 기술·제도적 협력이 요구된다.
근거 모음
근거
- TTP 연구진은 Meta의 광고 라이브러리에서 AI로 생성된 아동 성적 이미지와 이를 홍보하는 유료 광고 수십 건을 찾아냈다. 발견된 광고들은 11월부터 다음해 8월 사이에 게시되었고 일부는 여러 국가의 계정에 도달했다. 이러한 기록은 광고 심사 과정에서 해당 내용이 승인되어 집행된 정황을 뜻한다. — TTP가 수집한 광고 라이브러리 항목과 WIRED 보도; 일부 광고가 Meta의 정책 위반으로 삭제 표시된 기록.
- 여러 광고는 썸네일에서 아동을 노출한 뒤 재생 시 성인 장면으로 전환하거나 그 장면에 아동 얼굴을 합성하는 방식으로 작동했다. 연구진은 한 동영상 광고가 재생되며 썸네일의 아동 얼굴을 성적 상황에 덧씌웠다고 보고했다. 이 방식은 사용자가 클릭하기 전엔 문제를 판별하기 어렵게 만든다. — WIRED 기사 본문에 실린 구체적 사례 묘사와 TTP의 조사 결과 설명.
- Meta 광고 중 일부는 유럽에서 최대 2,563개 계정에 도달한 것으로 기록되어 있다. 광고 라이브러리의 도달 수치는 나라별로 차이가 있지만 최소 수천 계정에 노출된 사례가 확인되었다. 기록상 도달 범위는 미국 내 기록을 모두 포함하지 못할 수 있어 전체 노출은 더 클 가능성이 있다. — Meta의 광고 라이브러리 데이터에 기재된 지역별 도달 정보와 TTP 보고.
- 일부 광고는 MaskAI 같은 앱이나 중국계 광고업체 Meet Social과 연결된 것으로 나타났고, MaskAI는 WIRED의 접촉 이후 Apple이 App Store에서 제거했다. 광고가 앱스토어의 설치 후 합성 콘텐츠를 제공하는 구조를 취한 사례가 확인되었다. 이 연결성은 앱 스토어 심사와 플랫폼 광고 심사 사이의 공백을 드러낸다. — 기사에서 MaskAI의 동작 방식 검토와 Apple의 삭제 조치, Meet Social 관련 광고주 표기 언급.
기술
- generative AI
- face-swap
- 이미지 합성 모델
- 광고 서빙 시스템
- 앱 배포 플랫폼(App Store)
활용 사례
- 플랫폼의 광고 심사 과정에서 생성형 콘텐츠 탐지 규칙 개선
- 앱스토어 심사 단계에서 설치 후 제공 콘텐츠 분석 강화
- 광고 재판매업체와 도메인 반복 생성 차단을 위한 협업적 블랙리스트 공유
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 08. 06.수집 2026. 08. 06.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.