ChatGPT 안전 필터가 '중성적 캐릭터' 생성을 차단하는 내부 로직 분석

실용적 조언

안전 필터의 오작동을 피하기 위해 '중성적(androgynous)'이라는 단어 대신 구체적인 신체적 특징을 나열하는 것이 유리하다.
캐릭터가 '성인(adult)'임을 명시적으로 강조하거나, 성인임을 증명할 수 있는 문맥적 요소(특정 직업 복장 등)를 프롬프트에 추가하여 연령 모호성 판정을 피할 수 있다.

사용자는 '한국 만화 스타일'의 '중성적인 비이진성 캐릭터'를 생성하기 위해 뱀 비늘 묘사와 '반쯤 열린 중국식 기모노'를 포함한 구체적인 프롬프트를 작성했으나 가이드라인 위반으로 차단되었다.

ChatGPT는 안전 시스템이 '중성적 외모(Androgyny)'를 성인인지 미성년자인지 구분하기 어려운 '연령 모호성(Age Ambiguity)'으로 취급하여 아동 보호 정책을 적용할 수 있음을 시사했다.

또한 '비이진성(Non-binary)'이라는 속성에 '매력적임'이나 '피부 노출'이 결합될 경우, 시스템이 이를 일반적인 예술적 묘사가 아닌 '성적 대상화(Sexualization)'로 자동 분류하는 로직이 작동했다.

사용자는 성적이거나 노골적인 내용이 없음에도 불구하고 필터가 작동한 것에 대해 의문을 제기했으며, 다른 AI 도구에서는 동일한 프롬프트가 정상 작동함을 확인하며 과잉 검열 문제를 지적했다.

중성성(Androgyny): — 남성성과 여성성의 특징이 공존하여 성별을 명확히 구분하기 어려운 외모나 특성을 의미한다. AI 안전 필터는 이러한 모호함을 연령 판단의 불확실성으로 해석하여 차단 근거로 삼기도 한다.
비이진성(Non-binary): — 남성과 여성이라는 이분법적 성별 구분에서 벗어난 성 정체성을 뜻한다. 이미지 생성 AI에서 이 속성이 '매력적임'이나 '노출'과 결합될 경우 시스템이 이를 성적 대상화로 오인하는 사례가 보고된다.
연령 모호성(Age Ambiguity): — 캐릭터의 나이를 가늠하기 어려운 상태를 의미하며, 아동 안전 정책 위반 여부를 판단하는 핵심 기준이다. 중성적인 특징이 미성년자 묘사로 오인될 때 주로 발생한다.
안전 필터(Safety Filter): — 부적절하거나 유해한 콘텐츠 생성을 방지하기 위해 입력 프롬프트나 출력 이미지를 검사하는 알고리즘이다. 가이드라인에 따라 특정 키워드나 조합을 자동으로 차단한다.

ChatGPT중립

이미지 생성 및 대화 서비스

DALL-E 3중립

이미지 생성 모델