structural-to-semantic-query-cascade

MLLM 입력 시 구조적 쿼리(𝐐_s^0)를 의미적 쿼리(𝐐_m^0)보다 앞에 배치하여 causal self-attention으로 단방향 의존성을 만들고, 출력 쿼리(𝐐_s → 𝐐_m)가 구조를 먼저 형성한 뒤 의미적 세부를 조건으로 받아 생성에 사용되도록 하는 구조화 기법이다.