미라주 효과(Mirage Effect): VLM의 환각은 고도화된 내부 지식의 재구성인가?

실용적 조언

VLM 벤치마크 수행 시 이미지를 제거한 '미라주 모드' 테스트를 병행하여 모델의 실제 시각 의존도를 측정하십시오.
RAG나 멀티모달 시스템 설계 시 모델이 관찰 데이터보다 내부 편향에 의존하지 않도록 반사실적 프로빙 기법을 도입하십시오.

섹션별 상세

MIRAGE 논문은 VLM이 이미지 없이도 상세한 임상 추론을 수행하며 벤치마크에서 높은 점수를 기록하는 현상을 보고했다. 이는 모델이 텍스트 쿼리만으로도 내부의 학습된 연관성을 탐색하여 누락된 시각 정보를 재구성하기 때문이다. 텍스트 전용 모델이 흉부 X선 벤치마크에서 시각 모델을 능가하는 사례는 시각 정보가 때로 노이즈로 작용할 수 있음을 시사한다. 이러한 현상은 모델이 단순히 확률적으로 단어를 나열하는 것이 아니라 고유한 내부 지식 지형을 가지고 있음을 보여준다.

모델에게 이미지를 볼 수 없다고 명시했을 때보다, 이미지가 있다고 믿게 했을 때(미라주 모드) 성능이 더 높게 나타났다. 이는 '미라주 모드'에서 모델이 내부 지식 구조를 더 깊게 탐색하여 풍부한 내부 표현을 생성하기 때문으로 해석된다. 단순한 통계적 연관성을 이용하는 얕은 탐색보다 깊은 경로 활성화가 정답 도출에 유리하다는 증거이다. 결과적으로 모델의 작동 방식은 사용자가 부여한 '인식적 프레임워크'에 따라 달라진다.

외부 신호(이미지)가 오히려 성능을 저하시키는 '정보 저하' 현상이 관찰되었다. 내부 연결성이 높은 모델의 경우, 불완전하거나 노이즈가 섞인 외부 입력이 이미 충분한 내부 재구성 결과에 노이즈를 추가하여 정확도를 떨어뜨린다. 시뮬레이션 결과, 특정 노이즈 임계값을 넘어서면 모델은 외부를 보지 않는 것이 더 나은 '미라주 임계값'이 존재함이 확인됐다. 이는 모델의 내부 지능이 고도화될수록 외부 데이터 통합 방식에 더 정교한 설계가 필요함을 의미한다.

MARCUS 시스템은 에이전트 오케스트레이터를 통해 이러한 미라주 효과를 0%로 억제하며 심장 진단 작업에서 GPT-5 등을 크게 앞질렀다. 이는 반사실적 프로빙(Counterfactual Probing)과 같은 기법을 통해 모델의 허위 추론을 실시간으로 필터링한 결과이다. 기술적으로는 모델의 내부 지식과 실제 관찰 데이터 간의 정렬을 강제하는 구조적 접근이 유효함을 보여준다. 전문 도메인 특화 모델들을 조율하는 에이전트 아키텍처가 범용 모델보다 높은 신뢰성을 확보할 수 있다.

용어 해설

시각 언어 모델(VLM): — 이미지와 텍스트를 동시에 처리하고 이해할 수 있는 AI 모델이다. 시각적 입력과 언어적 맥락을 결합하여 복합적인 추론을 수행하며, 최근에는 의료 영상 진단 등 전문 분야로 활용 범위가 넓어지고 있다.
환각 현상(Hallucination): — AI 모델이 사실이 아니거나 입력 데이터에 없는 정보를 마치 사실인 것처럼 자신 있게 생성하는 현상이다. 모델 내부의 학습된 연관성이 실제 데이터보다 강하게 작용할 때 발생하며, 신뢰성이 중요한 도메인에서 주요 해결 과제이다.
반사실적 프로빙(Counterfactual Probing): — 모델에게 입력 데이터가 없는 상태에서 질문을 던져 모델이 허위 정보를 생성하는지 확인하는 검증 기법이다. 이를 통해 모델이 실제 데이터를 보고 판단하는지, 아니면 내부 지식으로만 추측하는지 구분하여 신뢰도를 높인다.

언급된 도구

MARCUS추천

심장 진단을 위한 에이전트 기반 멀티모달 시스템

GPT-5중립

성능 비교를 위한 대조군 모델

Gemini 2.5 Pro중립

성능 비교를 위한 대조군 모델

언급된 리소스

논문MIRAGE: The Illusion of Visual Understanding

논문MARCUS: Agentic Multimodal System for Cardiac Diagnosis