가르칠 수 있는 것을 넘어선 검색: 에이전트형 시각 생성에서 지식 경계의 진화

실세계 텍스트-투-이미지 요청은 새로운 캐릭터, 최신 사건, 지역 문화 상징 등 휠체처럼 긴 꼬리를 가진 지식 수요를 동반하며, 고정 코퍼스에서 학습된 생성기는 이러한 세계 지식 결핍으로 인해 사실적 재현에 실패한다. 이 연구는 생성기를 단순히 더 크게 만드는 대신, 어떤 지식은 내부화하고 어떤 지식은 검색으로 제공해야 하는지 '경계'를 규정해 시스템 전체로 해결하는 방향을 제시했다. 그 결과 실사용 규모의 20,839개 프롬프트와 1M 규모의 검색 코퍼스를 바탕으로 검색을 선택적으로 호출하고 생성기와 이유자를 공동 학습시켜 성능 저하를 회복하는 실용적 파이프라인을 확립했다.

실세계의 텍스트-투-이미지 요청은 매우 긴 꼬리의 지식 수요를 동반하며, 생성기는 고정 학습 코퍼스 때문에 최신성·희소성·문화적 특이성을 포괄하지 못한다. 이 상황에서 단순히 생성기 파라미터를 늘리는 것은 한계가 있으며, 어떤 지식은 파라메트릭으로 흡수 가능하고 어떤 지식은 항상 외부 문맥으로 제공되어야 한다는 구조적 분리가 존재한다. 이 분리는 생성기별로 달라지고 학습으로 이동할 수 있어 '지식 경계' 개념으로 정형화하였다.

전체 접근은 이유자(agentic reasoner)와 생성기를 함께 운영하는 두 단계 코트레이닝으로 구성된다. 우선 이유자는 게이트·필터·통합의 세 단계로 작동해 검색을 언제, 어떤 모달리티(image/web)로 실행할지 결정하고 반환을 선별해 증원된 텍스트 명세로 통합해 생성기로 전달한다. 생성기 측면에서는 온라인 Diffusion-DPO 절차로 검색 증강된 샘플들 중 상위·하위 쌍을 구성해 선호 신호로써 생성기를 미세조정하며, 이후 이유자는 거절 샘플링 파인튜닝을 통해 생성기가 내부화한 지식을 기준으로 검색 정책을 재학습해 불필요한 검색을 줄인다.

SearchGen-Bench에서 무차별적 검색을 적용하면 오픈 소스 생성기들이 Search-Intensive 집합에서 21–28점으로 크게 붕괴하는 반면 NoSearch 집합에서는 63–75점 수준에 머문다는 관측이 나타났다. 코트레이닝 절차는 세 단계(이유자 SFT, 생성기 DPO, 이유자 RFT)를 거치며 난이도 구간별로 단조로운 성능 개선을 보였고, Klein-4B 기준으로 Phase 2에서는 전체 평균을 31.8까지 끌어올려 동일 생성기에 대해 프런티어 오라클(31.2)과 유사한 수준에 도달했다. 또한 거절 파인튜닝으로 조정된 이유자는 NoSearch 집합에서 생성 성능을 훼손하지 않으면서 Search-Intensive 집합에서 의미 있는 이득을 확보해 선택적 검색이 가능함을 입증했다.

전체 아키텍처는 이유자(visual language model 기반)와 생성기(diffusion/flow-matching 타입)로 구성되며 이유자는 게이트·필터·통합의 I/O를 구조화해서 생성기 입력을 증원된 텍스트 명세로 만든다. 수학적으로 지식 경계는 생성기 G_{θ}와 품질 함수 Q를 통해 정의된다: 𝒦_{int}(θ)={k∈𝒦: E_{p|k}[Q(G_{θ},p,Search(k)) - Q(G_{θ},p,∅)] < ε}이며 이 정의에 따라 내부화 가능한 지식과 맥락 의존 지식으로 분할된다. DPO 단계에서는 검색 증강 명세로 생성기를 M개의 샘플을 생성해 점수를 매기고 상·하위 샘플로부터 DPO 손실을 적용해 생성기를 강화하며, RFT 단계에서는 이유자 궤적을 다수 롤아웃해 그룹 상대적 이점을 계산하고 이점이 양인 궤적만으로 이유자를 SFT 재학습해 검색 정책을 재조정한다.

논문은 최소 절차(한 회 DPO, 한 회 RFT)로서 원리를 실증했으나 절차가 모든 생성기 규모에서 동일한 절대 성능을 보장한다는 주장은 하지 않는다. 연구 결과는 생성기 용량이 성능 한계를 좌우하므로 더 큰 생성기와 결합하면 절대 점수가 개선될 여지가 있음을 분명히 한다. 또한 지식 경계의 예측 가능성, 경계의 스케일 법칙, 그리고 동영상·3D 등 다른 모달리티로의 일반화 가능성은 논문이 명확히 남긴 향후 연구 과제로 남아 있다.