챕터별 상세
서론: VLM의 환각 문제와 기존 방법의 한계
Vision-Language Model(VLM)은 이미지 이해와 텍스트 생성을 결합하여 뛰어난 성능을 보이지만, 이미지에 없는 내용을 생성하는 환각(Hallucination) 문제가 발생한다. 기존의 DPO 기반 환각 완화 방법들은 미리 구축된 정적 데이터셋이나 랜덤하게 편집된 이미지에 의존하여 실제 모델의 실패 패턴을 반영하지 못하는 한계가 있다. OViP는 이러한 정적 데이터의 한계를 극복하기 위해 모델의 실시간 실패 사례를 학습 신호로 활용하는 접근 방식을 제안한다.
멀티모달 환각은 모델이 이미지에 존재하지 않는 객체나 관계를 텍스트로 생성하는 현상을 의미한다.
OViP 방법론: 실패 기반 동적 데이터 생성
OViP는 모델이 학습 중 생성한 답변들 중 좋은 답변과 나쁜 답변을 선별하고, 그 의미 차이를 기반으로 negative image를 실시간으로 합성한다. 구체적으로 LLM을 사용하여 두 답변의 의미적 차이를 분석하고, 이를 diffusion model의 프롬프트로 입력하여 나쁜 답변에 대응하는 negative image를 생성한다. 이 과정을 통해 모델의 실패를 겨냥한 맞춤형 preference 데이터를 동적으로 구축한다.
Diffusion model은 텍스트 프롬프트를 기반으로 이미지를 생성하는 모델이다.
학습 전략: Response-level 및 Image-level 최적화
생성된 preference 데이터를 활용하여 response-level DPO와 image-level preference loss를 결합한 최적화를 수행한다. 모델은 텍스트뿐만 아니라 시각 정보에 대해서도 더 높은 충실도를 갖도록 가중치를 업데이트한다. 또한, 학습 안정성을 위해 Contrastive training 샘플을 저장하는 Experience Buffer를 도입하여 배치 단위의 학습을 수행한다.
DPO(Direct Preference Optimization)는 보상 모델 없이 선호도 데이터를 직접 학습하는 기법이다.
실험 결과 및 결론
다양한 벤치마크를 통해 OViP의 환각 완화 성능과 일반적인 모델 성능을 평가하였다. 실험 결과, OViP는 환각 완화 지표인 HRI에서 우수한 성능을 보였으며, 일반적인 VLM 성능 저하를 최소화하면서 환각을 효과적으로 줄였다. 이는 모델의 실패를 학습 신호로 활용하는 동적 alignment 전략이 멀티모달 모델의 신뢰성을 높이는 데 효과적임을 시사한다.
HRI(Hallucination Reduction Index)는 환각 완화 성능을 종합적으로 평가하는 지표이다.
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 05. 16.수집 2026. 05. 16.출처 타입 YOUTUBE
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
