MultAttnAttrib: 장문 멀티모달 질문응답에서 학습 불필요한 근거 귀속 방법

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

실제 서비스 환경에서는 생성된 답변의 출처를 빠르게 확인할 수 있어야 사용자 신뢰와 안전성이 확보된다. 멀티모달 문서에서는 텍스트와 이미지가 뒤섞여 있어 단순한 문단 선택 방식으로는 근거를 정확히 지정하기 어렵고, 반복적인 생성 기반 방법은 추론 비용과 지연을 크게 증가시킨다. MultAttnAttrib는 추가 학습 없이 모델 내부의 프리필 어텐션 신호만으로 텍스트와 이미지 근거를 동시에 찾아내어 응답의 근거 검증을 훨씬 저렴한 비용으로 가능하게 했다.

왜 중요한가

실제 서비스 환경에서는 생성된 답변의 출처를 빠르게 확인할 수 있어야 사용자 신뢰와 안전성이 확보된다. 멀티모달 문서에서는 텍스트와 이미지가 뒤섞여 있어 단순한 문단 선택 방식으로는 근거를 정확히 지정하기 어렵고, 반복적인 생성 기반 방법은 추론 비용과 지연을 크게 증가시킨다. MultAttnAttrib는 추가 학습 없이 모델 내부의 프리필 어텐션 신호만으로 텍스트와 이미지 근거를 동시에 찾아내어 응답의 근거 검증을 훨씬 저렴한 비용으로 가능하게 했다.

핵심 기여

학습 불필요한 멀티모달 근거 귀속 방법 제안

MultAttnAttrib는 모델의 프리필 패스에서 얻은 attention을 이용해 소수의 교차모달 검색 헤드를 식별하고 이들의 평균 attention을 집계해 텍스트 창과 이미지 슬롯을 점수화한 뒤 모달리티별 임계값으로 근거를 결정했다. 이 방식은 반복적 생성이나 별도 파인튜닝 없이 단일 전방 전달로 근거를 추출하므로 추론 지연과 메모리 사용을 크게 낮춘다. 설계상 희소한 검색 헤드만 사용하므로 실무적 적용이 현실적이다.

다섯 도메인을 포함한 MultAttrEval 데이터셋 구축

MultAttrEval은 긴 PDF 문서에서 텍스트-이미지 혼성 구성을 반영해 정밀한 Question-Answer-Attribution 삼중항을 수집하고 품질 검증 절차를 도입해 텍스트 전용, 이미지 전용, 멀티모달 항목을 모두 포함했다. 생성 과정에서 임베딩 기반 유사도 및 시각적-텍스트 엔티티 매칭을 사용해 근거 일관성과 교차모달 정합성을 확보했다. 평가 집합은 probe와 test 분할을 만들어 헤드 식별과 임계값 보정을 위한 소형 레이블셋을 포함한다.

인과적 헤드 점수화와 임계값 보정 절차 결합

헤드 식별은 Causal Mediation Analysis 기반의 인과적 점수와 Shannon 엔트로피 가중치를 조합해 수행하고 상위 k개의 헤드를 선택한 뒤 probe 집합으로 텍스트와 이미지별 F1을 최대화하는 임계값을 탐색해 결정한다. 이 파이프라인은 상관관계 기반 방법보다 교차모달 공유 신호를 더 잘 포착해 소수의 헤드로도 강한 근거 신호를 확보했다. 결과적으로 이미지 정밀도와 텍스트 재현율 모두 개선되었다.

동일 백본에서 프롬프팅 기반 비교에서 우수성과 실무 성능 개선 증명

Qwen3-VL-30B 기반 비교에서 MultAttnAttrib는 텍스트 전용 F1 0.596, 이미지 전용 F1 0.776, 혼합 F1 0.582를 달성해 여러 프롬프팅 및 RAG 기반 방법보다 일관되게 높은 F1을 보였다. 또한 비 vLLM 환경에서 VLM 대비 평균 처리 지연을 약 7.3배 단축하고 피크 VRAM을 약 15GB 절감해 대형 문서에 실무 적용 가능한 이점을 확보했다. 폐쇄형 최첨단 모델과도 경쟁력 있는 성능을 보였다.

핵심 아이디어 이해하기

Transformer 계열 모델의 attention 헤드는 문서 내에서 특정 위치로 주의를 집중해 정보를 전달하는데 일부 헤드는 '복사' 형태의 검색 신호를 매개해 답변 생성에 사용되는 근거 위치로 강하게 연결된다. 이러한 헤드를 찾으면 토큰 디코딩을 반복하지 않고도 프리필 패스의 attention만으로 근거를 지역화할 수 있다. 그러나 텍스트와 이미지가 섞인 문서에서는 검색 신호가 모달리티별로 다르게 나타날 수 있으므로 모달리티를 포괄하는 교차모달 헤드를 식별하는 것이 핵심이다.

방법론

MultAttnAttrib은 세 단계로 구성된다. 첫 번째 단계는 probe 집합을 이용한 헤드 식별로 probe는 90개의 QAA 항목으로 구성되어 있으며 각 헤드의 인과적 영향력을 Causal Mediation Analysis로 측정해 점수를 누적한다. 두 번째 단계는 선택된 헤드로 probe에 대한 attribution을 실행해 이미지와 텍스트 점수 분포를 얻고 각 모달리티별로 F1을 최대화하는 임계값을 탐색해 T_img와 T_txt를 결정하는 보정 단계이다. 세 번째 단계는 실제 질의 문서에 대해 단일 프리필 전달을 수행해 선택된 헤드의 attention을 평균하고 이미지 슬롯과 텍스트 슬라이딩 윈도우별로 점수를 계산한 뒤 min-max 정규화와 보정된 임계값을 적용해 근거를 반환하는 온라인 추론 단계이다.

주요 결과

기본 백본 Qwen3-VL-30B-A3B-Instruct에서 MultAttnAttrib는 텍스트 전용 F1 0.596을 기록해 동일 백본의 VLM 프롬프팅 F1 0.485보다 우수했다. 이미지 전용에서는 MultAttnAttrib F1 0.776이 VLM의 0.617보다 크게 향상되었고 텍스트와 이미지 혼합 경우에도 0.582 대 0.493으로 우위를 보였다. 리소스 측면에서 논문은 비 vLLM 환경에서 VLM의 평균 지연 15.67초 대비 MultAttnAttrib의 2.16초를 보고해 약 7.3배 지연 개선과 피크 VRAM 78.28GB 대비 63.41GB로 약 15GB 절감을 보였다.

기술 상세

전체 아키텍처는 프리필 패스에서 L×H 개의 attention 헤드 출력을 수집하는 것으로 시작한다. 논문에서는 총 1536개의 헤드를 평가했고 각 헤드는 각 probe에 대해 clean 입력과 evidence를 교체한 corrupted 입력 두 경우로 실행해 인과적 Indirect Effect를 계산했다. Indirect Effect는 한 헤드의 clean 입력에서 ground-truth 위치로의 평균 attention에서 corrupted 입력의 동일 평균을 뺀 값으로 정의되며 이 값은 질의 토큰 집합에 대해 평균화되어 해당 헤드의 점수로 누적된다. Shannon 엔트로피의 정규화 변형으로 균등 분산형 헤드에는 가중치를 낮춰 과다 귀속을 억제했다.

한계점

MultAttrEval 데이터셋은 이미지가 많은 장문 PDF를 대상으로 구성되어 일부 문서에 장식적 또는 중복 이미지가 포함되어 있어 단일 이미지 정답 기준이 성능 하향을 유발했다. MultAttnAttrib는 헤드 식별과 임계값 보정을 위해 소량의 레이블 probe가 필요하므로 완전한 무감독 설정에서 즉시 적용하기 어렵다. 또한 희소한 검색 헤드에 의존하므로 해당 백본에서 검색 헤드가 약하게 형성된 경우 성능이 떨어질 위험이 있으며 이 점을 논문 본문에서 한계로 명시했다.

실무 활용

MultAttnAttrib는 추가 파인튜닝 없이도 대형 멀티모달 문서에서 근거 위치를 빠르게 확보할 수 있어 검증 가능한 응답을 요구하는 어시스턴트나 문서 검색 워크플로에 적합하다. 단일 프리필 패스 기반 설계는 추론 비용과 메모리 부담이 큰 장문 처리 환경에서 특히 유리하다. 다만 소량의 레이블 probe가 필요하므로 완전한 무감독 적용을 위해서는 추가 연구가 필요하다.

기업 문서에서 자동으로 답변의 텍스트 단락과 관련 이미지를 함께 제시해 내부 검토 시간 단축
의료·법률 도메인에서 생성 모델이 근거로 삼은 원문 위치를 빠르게 검증해 안전성 향상
대량 PDF 아카이브에 대해 질의응답 인터페이스를 제공하면서 추론 비용을 낮춰 서비스 확장 가능
검색 기반 RAG와 결합해 검색 품질이 낮을 때 프리필 기반 근거 검증용 후처리 단계로 활용

코드 공개 여부: 미확인

키워드

multimodal attribution(멀티모달 근거 귀속)attention head(어텐션 헤드)causal mediation analysis(인과 매개 분석)prefill pass(프리필 패스)sliding window scoring(슬라이딩 윈도우 점수화)

추가 이미지 분석

Chart
좌우 패널은 각각 CMA와 MAS로 점수화한 상위 k 집합의 IoU를 k에 대해 플롯해 작은 k에서 두 방법이 서로 다른 교차모달 겹침 특성을 보인다는 점을 보여준다. 그림에서 k=4와 k=20 지점의 IoU 값을 주석으로 표시해 CMA가 상대적으로 작은 k에서 교차모달 겹침을 더 잘 포착하는 경향을 확인할 수 있다.
상위 k 헤드 수에 따른 IoU 변화를 시각화한 그래프로 CMA와 MAS의 차이를 비교하고 있다.

Chart
플롯은 작은 k에서 MAS가 강한 음의 상관을 보이는 반면 CMA는 더 빠르게 양의 상관으로 회복되는 양상을 나타내어 CMA가 교차모달 헤드 순위에서 더 일관된 신호를 제공함을 시사한다. 이 결과는 헤드 선택에서 인과적 보상이 실무적 유용성을 높이는 근거로 연결된다.
상위 k에 따른 Spearman 상관계수를 플롯해 CMA와 MAS에서 계층적 순위 상관성이 어떻게 변하는지 보이고 있다.

용어 해설

Causal Mediation Analysis: — 모델 입력을 '정상 입력'과 '증강 또는 손상된 입력'으로 나누어 두 경우의 내부 활성화 차이를 계산해 특정 구성요소가 출력에 미치는 인과적 기여도를 추정하는 기법이다. 본 논문에서는 주어진 증거를 대체한 입력과 원본 입력의 attention 차이를 평균하여 각 attention head의 인과적 영향력을 산출하는 데 사용되었다. 인과적 근거를 찾을 때 상관관계 기반 점수보다 더 강한 증거를 제공하므로 헤드 선택의 신뢰도를 높인다.
Prefill Pass: — 모델이 실제 토큰 디코딩을 시작하기 전에 입력 시퀀스를 한 번 전방 전달하여 내부 attention과 활성화를 생성하는 단계이다. 본 방법은 이 단계에서 얻는 attention 맵을 직접 집계해 추가 생성 호출 없이 근거 위치를 도출한다. 프리필 패스 이용은 반복적 생성 오버헤드와 KV 캐시 성장을 회피해 추론 비용을 크게 줄이는 핵심 설계이다.
Retrieval Head: — 문서 내에서 근거 토큰이나 패치로 강하게 주의를 집중해 복사형 정보 흐름을 매개하는 주목(attention) 헤드를 말한다. 본 연구에서는 이러한 헤드를 식별해 헤드별 attention을 평균하면 텍스트 구간과 이미지 슬롯 양쪽에서 근거 점수를 얻을 수 있었다. 검색 헤드는 모델 내부에서 희소하게 나타나며 소수의 헤드로도 상당한 근거 신호를 캡처할 수 있다.
Sliding Window Scoring: — 텍스트를 고정 길이 또는 중간 길이의 연속 토큰 창으로 분할해 각 창에 대해 평균 attention을 계산하는 절차이다. 본 논문에서는 probe 집합의 중앙값 창 길이를 W로 정하고 선택된 헤드의 평균 attention으로 각 창을 점수화해 텍스트 근거를 지역화했다. 창 단위 집계는 긴 문서에서 토큰 단위 잡음을 줄이고 근거 범위를 더 안정적으로 결정하는 데 기여했다.
Min-Max Normalization: — 서로 다른 스케일을 가진 이미지 점수와 텍스트 점수를 동일 선상에 놓기 위해 최저값을 0으로 최고값을 1로 선형 변환하는 표준화 기법이다. 본 방법은 이미지 슬롯과 텍스트 윈도우 점수를 동일 임계값으로 비교 가능하게 만들며 이후 F1 최적화된 임계값을 적용하는 데 전처리로 사용되었다. 정규화가 없으면 한 쪽 modality가 과도하게 우세해 잘못된 귀속이 발생할 위험이 커진다.

코드 예제

text

1: g_phi (language model), x (input prompt), Q (query position), H (selected heads), W (span length)
2: A <- g_phi(x, Q, H)
3: a_bar <- mean_{(l,h),q} A_{l,h,q}
4: for each image slot s do
5:   v_s_img <- a_bar_s
6: end for
7: for each sliding window w over text do
8:   v_w_txt <- a_bar_w
9: end for
10: [v_img, v_txt] <- MinMaxNorm([v_img, v_txt])
11: I_hat <- { s : v_s_img >= T_img } ; T_hat <- { w : v_w_txt >= T_txt }
12: if I_hat union T_hat == empty then
13:   (m_star, e_star) <- argmax_{m,e} v_e^m
14:   I_hat <- { e_star : m_star == img } ; T_hat <- { e_star : m_star == txt }
15: end if
16: return I_hat, T_hat

이 의사코드는 선택된 attention 헤드의 평균 어텐션을 이미지 슬롯과 텍스트 슬라이딩 윈도우로 집계해 min-max 정규화 후 임계값으로 필터링하여 근거 이미지와 텍스트 창을 반환하는 MultAttnAttrib의 핵심 연산 흐름을 나타내는 의사코드이다.