AI로 작성된 저서의 진실성 논란과 WIRED의 발췌문 철회

섹션별 상세

Steve Rosenbaum의 저서 *The Future of Truth*는 AI로 생성하거나 잘못 인용된 문구들로 인해 신뢰성 논란에 직면했다.

WIRED는 해당 도서의 발췌문을 게재했으나, AI 생성 콘텐츠를 금지하는 자사 편집 정책에 따라 이를 즉시 철회했다.

근거

Pangram, GPTZero 등 AI 탐지 도구들은 해당 원고가 AI에 의해 작성되었을 가능성을 높게 평가했다.

근거

저자는 AI를 연구 및 언어 다듬기 도구로 활용했음을 인정했으나, AI 탐지 도구의 결과에 대해서는 회의적인 입장을 고수했다.

이번 사건은 언론계에서 AI 활용이 보편화되는 상황에서, AI 사용의 투명성과 윤리적 기준에 대한 논쟁을 촉발했다.

AI 탐지(AI Detection): — AI가 생성한 텍스트나 콘텐츠를 식별하는 기술 및 도구. 주로 통계적 패턴 분석을 통해 작성자가 인간인지 기계인지를 판별한다. AI 생성 콘텐츠의 확산으로 인해 미디어와 학계에서 진위 여부를 확인하기 위한 수단으로 활용되지만, 오탐 가능성이라는 한계가 존재한다.
AI 슬롭(AI Slop): — AI가 생성한 저품질의 대량 콘텐츠를 의미하는 신조어. 주로 인터넷상에 무분별하게 퍼지는 AI 생성물을 비하하는 표현으로 사용된다. 정보의 가치가 낮고 인간의 창의성이 결여된 콘텐츠가 범람하는 현상을 경계하는 맥락에서 주로 언급된다.
생성형 AI(Generative AI): — 텍스트, 이미지, 오디오 등 새로운 콘텐츠를 생성할 수 있는 인공지능 기술. 대규모 언어 모델(LLM)을 기반으로 하며, 창작 및 업무 자동화에 널리 활용된다. 최근 미디어 업계에서는 이 기술을 활용한 콘텐츠 제작의 윤리적 기준과 진정성에 대한 논의가 활발히 진행되고 있다.