cross-attentive-fusion

교차 어텐션 융합은 두 개 이상의 고정된(frozen) 언어모델 출력을 상호 어텐션 레이어로 연결해 정보를 결합하는 기법이다. 각 모델의 출력이 query/key/value로 매핑되어 상호 가중합을 계산하고, 합쳐진 표현이 downstream 랭킹 모듈로 전달되는 입력→연산→출력 파이프라인을 따른다. 이 방식은 전체 LLM 파라미터를 갱신하지 않고도 모델 간 표현을 정렬하고 결합하는 역할을 수행한다.