ChatGPT가 AI 생성 로켓 이미지를 실제 NASA 사진으로 오해하고 물리 법칙을 동원해 변호한 사례

많은 사용자가 AI의 고집스러운 태도와 전문 용어 오용에 놀라움을 표하며, VLM의 시각적 이해 한계에 대한 공감대가 형성됐다.

• AI의 이미지 분석 결과를 맹신하지 말고, 특히 텍스트 맥락이 강하게 주입된 경우 시각적 오류를 스스로 검증해야 한다.

Persona Lock

— AI 모델이 특정 역할이나 성격에 과도하게 고착되어 사용자의 피드백이나 명백한 증거를 무시하고 기존의 논리를 고수하는 현상이다. 이 아티클에서는 ChatGPT가 '과학적 해설자' 역할에 갇혀 가짜 이미지를 옹호하는 상황을 설명하는 데 사용됐다.

Hallucination

— AI 모델이 학습 데이터에 없는 사실을 마치 진실인 것처럼 자신 있게 생성해내는 현상이다. 텍스트뿐만 아니라 이미지 분석에서도 존재하지 않는 물리적 근거를 지어내는 방식으로 나타날 수 있다.

Vision-Language Model

— 이미지와 텍스트를 동시에 이해하고 처리할 수 있는 AI 아키텍처이다. 이 글에서는 VLM이 시각적 데이터보다 텍스트 맥락에 더 의존할 때 발생하는 판단 오류의 사례를 보여준다.

Rolling Shutter

— 카메라 센서가 이미지를 한 줄씩 순차적으로 스캔할 때 빠르게 움직이는 물체가 왜곡되어 보이는 현상이다. AI가 정지된 물체의 기하학적 오류를 설명하기 위해 이 용어를 부적절하게 인용하며 논리적 비약을 보였다.