핀터레스트, 진짜 예술은 AI로 오판하면서 'AI 오물'로 뒤덮이다

섹션별 상세

핀터레스트의 자동화된 검열 시스템이 인간의 창작물을 AI 생성 이미지로 잘못 분류하여 차단하고 있다. 생성형 AI가 등장하기 10년 전에 제작된 작품들조차 AI로 낙인찍히는 사례가 보고되었으며, 작가들은 며칠씩 걸리는 이의 제기 절차를 반복해야 하는 처지이다.

플랫폼 내에 소위 'AI 오물(Slop)'이라 불리는 저품질 생성 이미지가 급증하여 사용자 경험을 해치고 있다. 레딧의 한 사용자는 피드에 올라오는 100개의 핀 중 95개가 AI 생성물이거나 도용된 콘텐츠라고 주장하며 플랫폼의 질적 하락을 지적했다.

핀터레스트는 AI 역량 강화를 위해 전체 직원의 15%를 해고하는 구조조정을 단행했다. 이와 동시에 사용자의 공개 핀 데이터를 개별 동의 없이 자사의 AI 디자인 도구인 Canvas 학습에 활용하기 시작하면서 창작자 커뮤니티와의 갈등이 깊어졌다.

인스타그램, 엣시, 데비안아트 등 다른 주요 플랫폼들도 AI 생성 기능을 도입하는 과정에서 유사한 진통을 겪고 있다. AI 도입이 플랫폼의 효율성을 높일 것이라는 기대와 달리, 실제로는 플랫폼을 지탱하던 고유한 콘텐츠의 품질을 파괴하는 모순적인 상황이 벌어지고 있다.

AI 오물(AI Slop): — AI를 통해 대량으로 생성된 저품질, 스팸성 콘텐츠를 의미한다. 검색 결과나 소셜 미디어 피드를 장악하여 사용자가 원하는 고품질 정보를 찾는 것을 방해하며 플랫폼의 전반적인 가치를 떨어뜨리는 요인이 된다.
자동 콘텐츠 검열(Automated Moderation): — 알고리즘이나 AI 모델을 사용하여 플랫폼에 게시되는 방대한 양의 콘텐츠를 자동으로 필터링하고 관리하는 시스템이다. 부적절한 게시물을 빠르게 차단할 수 있지만, 정상적인 콘텐츠를 위반 사항으로 오판하는 오탐(False Positive) 문제가 발생하기 쉽다.
생성형 AI(Generative AI): — 데이터 학습을 통해 텍스트, 이미지, 영상 등 새로운 콘텐츠를 만들어내는 인공지능 기술이다. 최근 확산된 이미지 생성 모델들은 창작의 효율성을 높였으나, 동시에 저작권 침해와 무분별한 콘텐츠 복제 문제를 야기하고 있다.