X, 그록(Grok)의 사진 편집 차단 기능 도입했으나 실효성 논란

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

X(구 트위터)가 사용자의 업로드 이미지를 그록(Grok) 챗봇으로 수정하지 못하게 하는 '그록에 의한 수정 차단' 기능을 iOS 앱에 도입했다. 이 기능은 이미지 업로드 설정 내에서 활성화할 수 있으며, 타인이 댓글로 그록을 태그해 이미지를 편집하는 것을 방지한다. 그러나 테스트 결과, 앱 내 컨텍스트 메뉴를 통한 직접 편집이나 이미지 재업로드 등 다양한 우회 경로를 막지 못해 딥페이크 방지 효과가 미미한 것으로 나타났다. 현재 이 기능은 공식 발표 전 단계로, 웹 버전이나 기존 게시물에는 적용되지 않는다.

배경

X(트위터) 서비스 이용 경험, AI 이미지 생성 및 편집 개념에 대한 이해

대상 독자

소셜 미디어 사용자 및 AI 윤리/안전 정책 관심자

의미 / 영향

AI 이미지 편집 도구의 오남용을 막기 위한 플랫폼 차원의 노력이 시작되었으나, 기술적 허점이 많아 실질적인 보호 효과를 거두기까지는 상당한 개선이 필요함을 시사한다.

섹션별 상세

X의 iOS 앱 이미지 업로드 설정에 '그록에 의한 수정 차단(Block modifications by Grok)' 토글이 새롭게 추가되었다. 사용자는 이미지 업로드 시 편집 도구 내 플래그 아이콘을 통해 이 옵션을 활성화할 수 있으며, 이는 타인이 해당 이미지를 그록 AI로 조작하는 것을 어렵게 만들기 위한 조치이다.

X 앱의 이미지 설정 화면에 추가된 '그록에 의한 수정 차단' 토글 스위치이다. — Screenshot사용자가 이미지를 업로드할 때 그록 AI의 수정을 막을 수 있는 새로운 설정 옵션을 보여준다. 이 토글을 활성화하면 타인이 @Grok을 태그하여 해당 이미지를 편집하는 것을 방지할 수 있음을 시각적으로 확인시켜 준다.

이 기능의 핵심 제한 사항은 댓글에서 @Grok을 태그하여 편집 명령을 내리는 방식만 차단한다는 점이다. 과거 이 방식은 실제 인물의 사진을 나체로 합성하는 등 딥페이크 악용 사례에 빈번히 사용되었으나, 이번 차단 기능은 유료 구독자가 태그를 통해 편집하는 경로만을 타겟으로 하고 있다.

실제 테스트 결과, 차단 기능을 활성화하더라도 여러 우회 방법이 존재함이 확인되었다. iOS 앱에서 이미지를 길게 눌러 '그록으로 이미지 편집' 메뉴를 선택하면 차단 여부와 상관없이 그록 앱에서 즉시 편집이 가능하며, 이미지를 저장 후 재업로드하여 태그하는 방식도 막지 못한다.

그록 차단 설정 화면과 이를 우회하여 이미지를 편집하는 과정을 나란히 비교한 이미지이다. — Screenshot왼쪽은 차단 기능을 활성화하는 화면이며, 오른쪽은 차단 설정에도 불구하고 컨텍스트 메뉴를 통해 그록 편집기로 진입하여 이미지를 수정하는 모습을 보여준다. 이 이미지는 해당 기능의 기술적 한계와 우회 가능성을 실증적으로 증명한다.

현재 이 기능은 웹 버전에서는 지원되지 않으며, 이미 업로드된 과거 콘텐츠에도 소급 적용되지 않는다. X 측은 이 기능에 대해 공식적인 발표를 하지 않은 상태이며, 개발 상태나 전체 배포 일정에 대해서도 명확한 답변을 내놓지 않고 있다.

실무 Takeaway

X의 새로운 그록 차단 기능은 댓글 태그 방식만 제한하므로, 딥페이크 방지를 위해서는 컨텍스트 메뉴 차단 등 더 포괄적인 보호 조치가 필요하다.
민감한 사진을 업로드할 때는 플랫폼의 차단 기능을 맹신하기보다, AI 편집 도구의 우회 가능성을 염두에 두어야 한다.
현재 이 기능은 iOS 앱의 신규 업로드 게시물에만 국한되어 있으므로, 웹 사용자나 기존 게시물 보호를 위한 추가 업데이트를 주시해야 한다.