TL;DR

HPD-Parsing은 InternVL3.5-1B를 백본으로 쓰는 1B급 문서 파싱 모델로, 페이지 구조를 조율하는 레이아웃 branch와 영역별로 동시에 디코딩하는 콘텐츠 branch를 분리해 순차적 생성의 병목을 없앤 계층적 병렬 디코딩(HPD) 구조를 쓴다. 각 branch 안에서는 Progressive Multi-Token Prediction으로 한 번에 여러 토큰을 예측해 디코딩 단계를 추가로 줄이며, difficulty-aware 데이터 큐레이션으로 기존 자기회귀 파싱 능력을 이 새 디코딩 방식으로 단계적으로 이전했다. 그 결과 OmniDocBench v1.6에서 통합 파서 중 최고 점수인 94.91%를 내면서도 A800 배치 512 기준 초당 4,752토큰으로 자체 자기회귀 베이스라인의 3.06배, 기존 최속 파서 DeepSeek-OCR-2의 1.62배 처리량을 달성했고 문서가 길어질수록 이 격차는 더 커진다. 다만 이 처리량을 그대로 얻으려면 커스텀 vLLM 빌드가 필요하며, 표준 transformers 경로는 참조 구현으로 단일 이미지·배치 1만 지원한다.

핵심 포인트

• 레이아웃 branch가 페이지 구조를 전역 조율하고 콘텐츠 영역별로 로컬 branch를 동시에 디코딩해 순차적 병목을 없앤다.
• 각 branch 안에서 P-MTP가 한 번에 여러 토큰을 예측해 디코딩 단계 수를 추가로 줄인다.
• 1B급 소형 모델로 OmniDocBench v1.6에서 통합 파서 SOTA를 기록하면서도 초당 4752토큰의 처리량을 낸다.
• 문서가 길어질수록 디코딩 단계 감소·요청 처리량 증가 효과가 커져 대량 문서 처리에 유리하다.

제한사항

벤치마크