NuExtract3: 복잡한 문서 정보 추출을 위한 4B 오픈 가중치 모델 공개

커뮤니티 반응

모델의 성능과 로컬 배포 용이성에 대해 긍정적인 관심을 보이고 있다.

NuExtract3는 Qwen3.5-4B를 기반으로 하며 PDF, 스크린샷, 표 등 복잡한 문서에서 정보를 추출하도록 설계되었다. 텍스트와 시각적 입력을 모두 처리할 수 있어 다양한 문서 구조화 작업에 적합하다.

모델은 8xH100 노드에서 3일간 학습되었으며, 4GB VRAM 환경에서도 실행 가능하다. GPTQ, W8A8, FP8, GGUF 등 다양한 양자화 형식을 지원하여 하드웨어 제약이 있는 환경에서도 배포가 용이하다.

vLLM, SGLang, llama.cpp와 호환되어 로컬 환경에서 쉽게 배포할 수 있다. Markdown 변환 작업 시 페이지 단위로 처리하면 병렬화 효율을 높일 수 있다.

vLLM추천

추론 엔진

SGLang추천

추론 엔진

llama.cpp추천

추론 엔진