MIT 연구진, 출력 생성 없이 생성형 모델의 CSAM 생성 특화 여부 판별 기법 개발

생성형 AI 모델이 악용되어 CSAM 같은 불법적 이미지를 만들 수 있다는 문제의식과 함께, 직접 출력을 생성할 수 없거나 생성이 법적으로 금지된 상황에서 모델의 위험성을 평가하는 방법이 필요하다고 지적되었다. MIT 연구팀은 모델의 내부 표현과 파라미터 적응 패턴을 분석해 출력 없이도 특정 변형이 CSAM 생성에 특화되었는지를 판별하는 절차를 설계했으며 이는 LoRA 등 효율적 파인튜닝 기법으로 만들어진 변형을 대상으로 적용 가능하다. 실험에서는 이 감사 절차가 특화된 모델을 식별하는 데 100% 정확도를 기록했고, 연구진은 해당 기술을 통해 호스팅 플랫폼이 문제 모델을 표시하거나 업로드를 차단할 수 있다고 제안했다. 이 접근법은 출력 생성을 금지하는 법적 제약 하에서도 모델의 악용 가능성을 사전에 탐지하는 수단을 제공하는 반면, 본문에는 광범위한 범용성 검증이나 오탐률에 관한 상세 데이터가 함께 제시되지 않아 추가 검증이 요구된다.