X(구 트위터)의 AI 챗봇 Grok, 이란-이스라엘 갈등 속 가짜 뉴스 확산에 일조

섹션별 상세

일론 머스크의 AI 챗봇 Grok이 이란 미사일 공격 관련 게시물의 사실 확인 과정에서 날짜와 장소를 잘못 파악하고, 심지어 가짜 AI 이미지를 생성해 답변하는 등 'AI 슬롭(Slop)' 문제를 노출했다.

이란 정부와 연계된 선전 네트워크는 AI 도구를 활용해 미군 B-2 폭격기 격추나 델타 포스 생포와 같은 정교한 가짜 영상을 제작하여 수백만 회 이상의 조회수를 기록하며 대중을 기만했다.

AI는 단순한 전황 왜곡을 넘어 도널드 트럼프 전 대통령의 가짜 영상이나 반유대주의 내러티브를 담은 이미지 생성에 악용되어 정치적 선전 도구로 활발히 사용되고 있다.

X는 무력 충돌 관련 AI 영상을 라벨 없이 게시하는 유료 계정에 대해 일시적인 수익 창출 중단 조치를 취했으나, 이란 관리들이 여전히 유료 서비스를 이용하며 영향력을 행사하는 등 실효성에 의문이 제기된다.

메타(Meta)의 감독위원회는 현재의 AI 라벨링 방식이 분쟁 상황에서 발생하는 대규모 가짜 뉴스의 확산 속도를 따라잡기에 역부족이라고 비판하며 기술적 탐지 도구의 불완전성을 지적했다.

허위 정보(Disinformation): — 특정 집단이나 국가가 정치적·경제적 이득을 취하기 위해 의도적으로 유포하는 조작된 정보이다. 단순한 실수인 오보(Misinformation)와 달리 기만하려는 목적이 뚜렷하며, 최근 AI 기술을 통해 대량 생산되어 사회적 혼란을 야기한다.
AI 슬롭(AI Slop): — AI가 생성한 저품질, 무의미하거나 사실 관계가 틀린 콘텐츠를 비하하여 일컫는 용어이다. 사용자의 주의를 끌기 위해 자극적으로 생성되지만 실질적인 정보 가치가 없으며, 인터넷 환경의 정보 밀도를 낮추고 오염시키는 주범으로 지목된다.
환각 현상(Hallucination): — 대형 언어 모델(LLM)이 학습 데이터에 없는 내용을 마치 사실인 것처럼 자신 있게 지어내어 답변하는 오류이다. 확률적으로 가장 그럴듯한 단어를 선택하는 모델의 특성 때문에 발생하며, 사실 확인이 중요한 뉴스나 정보 검색 분야에서 심각한 문제를 일으킨다.
딥페이크(Deepfake): — 인공지능을 활용해 특정 인물의 얼굴, 신체, 목소리를 다른 영상이나 이미지에 합성하는 기술이다. 실제 인물이 하지 않은 행동이나 발언을 사실처럼 조작할 수 있어 정치적 선전이나 성범죄 등 악용 사례가 늘고 있다.