EndoCoT: 확산 모델에서의 내생적 사고 사슬 추론 확장

최근 멀티모달 대형 언어 모델(Multimodal Large Language Models, MLLMs)은 공간 추론(spatial reasoning)과 같은 복잡한 작업을 해결하기 위해 주로 텍스트 인코더로서 확산(diffusion) 프레임워크에 널리 통합되었습니다. 그러나 이러한 패러다임은 두 가지 결정적인 한계를 가지고 있습니다. (i) MLLM 텍스트 인코더의 추론 깊이가 부족합니다. 단일 단계 인코딩은 MLLM이 복잡한 작업에 대해 정확한 가이드를 제공하는 데 필수적인 사고 사슬(Chain-of-Thought, CoT) 프로세스를 활성화하지 못합니다. (ii) 디코딩 과정 중에 가이드가 변하지 않고 고정됩니다. 디코딩 중의 불변하는 가이드는 MLLM 인코딩이 정확하더라도 확산 트랜스포머(Diffusion Transformer, DiT)가 복잡한 지시사항을 실행 가능한 노이즈 제거(denoising) 단계로 점진적으로 분해하는 것을 방해합니다. 이를 해결하기 위해 본 논문은 내생적 사고 사슬(Endogenous Chain-of-Thought, EndoCoT)이라는 새로운 프레임워크를 제안합니다. 이 프레임워크는 먼저 반복적 사고 가이드 모듈(iterative thought guidance module)을 통해 잠재 사고 상태를 반복적으로 정제함으로써 MLLM의 추론 잠재력을 활성화하고, 이러한 상태를 DiT의 노이즈 제거 프로세스에 연결합니다. 둘째, 최종 상태를 정답(ground-truth)과 정렬하여 추론 궤적이 텍스트 감독에 기반을 두도록 보장하는 종단 사고 접지 모듈(terminal thought grounding module)을 적용합니다. 이러한 두 구성 요소를 통해 MLLM 텍스트 인코더는 세심하게 추론된 가이드를 전달하며, DiT가 이를 점진적으로 실행하여 궁극적으로 복잡한 작업을 단계별로 해결할 수 있게 합니다. 미로(Maze), 외판원 문제(TSP), 시각적 공간 계획(VSP), 스도쿠(Sudoku) 등 다양한 벤치마크에 걸친 광범위한 평가에서 평균 92.1%의 정확도를 달성했으며, 이는 가장 강력한 베이스라인보다 8.3% 포인트 높은 수치입니다.