뉴욕타임스, AI가 생성한 가짜 인용구 보도에 대한 정정 공지

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

뉴욕타임스는 캐나다 보수당 당수 피에르 포일리에브르의 발언을 인용 보도하는 과정에서 심각한 오류가 발생했음을 인정했다. 담당 기자는 AI 도구가 제공한 정치 견해 요약본을 실제 인용구로 착각하여 기사에 삽입했으며, 사실 확인 과정을 거치지 않았다. 해당 AI는 포일리에브르가 사용하지 않은 '변절자(turncoats)'라는 단어를 포함한 가짜 인용구를 생성해낸 것으로 밝혀졌다. 이에 따라 뉴욕타임스는 기사 내용을 실제 연설 내용으로 수정하고 AI 도구 활용에 따른 정확성 검증의 중요성을 강조하는 정정 공지를 게시했다.

배경

AI 할루시네이션(Hallucination) 개념, LLM 기반 요약 메커니즘에 대한 이해

대상 독자

언론인, AI 도구를 활용하는 콘텐츠 제작자, AI 윤리 및 미디어 관계자

의미 / 영향

이 사건은 대형 언론사조차 AI 할루시네이션의 위험에서 자유롭지 않음을 보여주며, AI 보조 도구 활용 시 엄격한 편집 가이드라인이 필수적임을 시사합니다. 특히 정치적 발언과 같은 민감한 사안에서 AI 요약을 그대로 인용하는 행위가 저널리즘의 신뢰도를 어떻게 훼손할 수 있는지 경고합니다.

섹션별 상세

뉴욕타임스 기자가 AI 도구가 생성한 요약 내용을 실제 인용구로 오인하여 보도하는 사건이 발생했다. 기자는 AI가 렌더링한 정치적 견해 요약을 실제 발언으로 간주하고 기사에 그대로 삽입했다. 이 과정에서 필수적인 사실 확인 절차가 누락되어 잘못된 정보가 독자에게 전달됐다. 결과적으로 실제 연설에는 없던 자극적인 표현이 정치인의 발언으로 둔갑했다.

AI 도구는 실제 연설에 등장하지 않은 단어를 포함하여 가짜 인용구를 생성했다. 보도된 기사에는 포일리에브르 당수가 당을 옮긴 정치인들을 '변절자(turncoats)'라고 지칭한 것으로 기록되었으나, 실제 4월 연설문에는 해당 표현이 존재하지 않았다. 이는 AI가 문맥을 요약하는 과정에서 원문에 없는 단어를 임의로 생성하거나 재구성하는 할루시네이션 현상을 보여준다. 매체는 이후 실제 연설 내용을 바탕으로 기사 문구를 정확하게 수정했다.

실무 Takeaway

저널리즘 현장에서 AI 요약 도구를 사용할 때 원문 대조를 통한 사실 확인(Fact-check) 절차를 생략하면 치명적인 오보로 이어질 수 있다.
LLM 기반 도구는 요약 과정에서 원문에 없는 단어나 표현을 임의로 생성할 수 있으므로 인용구 작성 시에는 절대적으로 수동 검증이 필요하다.