Hugging Face에 호스팅된 이미지 편집 모델 상당수가 성적 비동의 딥페이크 생성에 응답하는 것으로 확인됐다

유럽 비영리 단체 AI Forensics의 조사 결과 Hugging Face에 올라온 상위 이미지 편집 모델들이 간단한 텍스트 지시로 여성의 옷을 벗기는 합성 이미지를 생성하는 데 응답한 것으로 나타났다. 조사 방법은 모델에 텍스트 프롬프트를 넣어 출력 이미지를 관찰하는 방식으로, 상위 9개 모델 가운데 7개가 해당 요청에 응답했다는 수치적 근거를 제시했다. 주요 상용 모델들은 입력 차단 등 가드레일을 적용해 유사 요청을 차단하는 반면 조사 대상 모델들은 플랫폼 또는 모델 수준의 안전검증이 부족해 비동의 딥페이크 가능성이 높아졌다는 점이 지적되었다. 이 결과는 공개 모델의 배포와 호스팅 정책, 그리고 플랫폼 차원의 안전 통제 강화가 필요함을 보여준다.