PaddleOCR 3.5, Hugging Face Transformers 백엔드 지원 시작

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

PaddleOCR 3.5는 Hugging Face Transformers를 새로운 추론 백엔드로 도입하여 OCR 및 문서 파싱 모델의 통합 유연성을 높였다. 개발자는 `engine="transformers"` 설정을 통해 기존 PaddlePaddle 기반 환경뿐만 아니라 PyTorch 및 Transformers 생태계에서도 모델을 실행할 수 있다. 이 업데이트는 RAG나 문서 AI 파이프라인 구축 시 모델 로딩과 배포 경험을 개선한다. 내부 테스트와 설정 옵션을 통해 하드웨어 환경에 최적화된 추론이 가능하다.

배경

Python, PyTorch, PaddleOCR 3.5, Transformers

대상 독자

RAG 및 Document AI 시스템을 구축하는 AI 엔지니어

의미 / 영향

OCR 및 문서 파싱 모델을 Transformers 생태계로 통합함으로써, 기존 PyTorch 기반의 RAG 파이프라인 구축이 한층 수월해질 것으로 예상된다.

섹션별 상세

PaddleOCR 3.5는 `transformers`를 추론 백엔드로 추가하여 Hugging Face 생태계와의 호환성을 강화했다. 개발자는 `engine="transformers"` 파라미터를 설정하여 기존 PaddleOCR 모델(PP-OCRv5 등)을 Transformers 환경에서 실행할 수 있다. 이로써 기존 PaddlePaddle 기반 환경 외에도 PyTorch 생태계 내에서 모델을 직접 활용할 수 있게 됐다.

근거

PaddleOCR 3.5는 Hugging Face Transformers를 추론 백엔드로 지원한다. — Introduction section

`engine_config`를 통해 `dtype`, `device`, `attn_implementation` 등 백엔드별 세부 설정을 제어할 수 있다. 이는 모델 배포 환경에 맞춰 추론 성능을 최적화하는 데 유용하다. 개발자는 하드웨어 사양에 따라 최적의 설정을 적용하여 추론 효율을 높일 수 있다.

근거

engine_config를 통해 dtype, device, attn_implementation 등을 설정할 수 있다. — What changed? section

이 통합은 RAG 및 문서 AI 워크플로를 구축하는 개발자에게 이점을 제공한다. 문서 데이터 추출 단계에서 Transformers 기반 인프라를 활용함으로써 파이프라인 통합 마찰을 줄이고 개발 경험을 개선할 수 있다. 긴 문서나 복잡한 레이아웃을 처리하는 RAG 시스템에서 데이터 추출의 신뢰성을 높이는 데 기여한다.

성능 최적화가 최우선인 경우 기존 `paddle_static` 백엔드를 권장한다. 이번 업데이트는 백엔드 교체가 아닌 개발자에게 더 많은 선택지와 유연한 배포 옵션을 제공하는 데 목적이 있다. 프로젝트 요구사항에 따라 적절한 백엔드를 선택하여 모델을 배포할 수 있다.

용어 해설

OCR: — 광학 문자 인식(Optical Character Recognition)은 이미지나 스캔된 문서에서 텍스트를 추출하여 기계가 읽을 수 있는 디지털 데이터로 변환하는 기술이다. RAG 시스템이나 문서 AI 파이프라인에서 PDF, 표, 차트 등 비정형 문서 데이터를 구조화된 정보로 변환하는 핵심적인 전처리 단계로 활용된다.
Document Parsing: — 문서 파싱은 PDF, 스캔 이미지, 표, 수식 등 복잡한 레이아웃을 가진 문서에서 텍스트와 구조 정보를 추출하는 과정이다. 단순히 텍스트를 읽는 것을 넘어 문서의 논리적 구조를 파악함으로써, LLM이 문맥을 정확히 이해하고 답변을 생성할 수 있도록 고품질의 데이터를 제공하는 데 필수적이다.
Inference Backend: — 추론 백엔드는 학습된 모델을 실제 환경에서 실행하여 결과를 도출하는 런타임 엔진이다. 이번 업데이트를 통해 PaddleOCR은 기존 PaddlePaddle 전용 엔진 외에도 PyTorch 생태계의 표준인 Transformers 백엔드를 지원하게 되어, 모델 배포 및 통합의 유연성이 크게 향상되었다.

코드 예제

bash

python -m pip install "paddleocr==3.5.0" "paddlex==3.5.2" "transformers>=5.4.0"

PaddleOCR 3.5와 관련 라이브러리 설치 명령어

python

pipeline = PaddleOCR(
    device="gpu:0",
    engine="transformers",
    use_doc_orientation_classify=False,
    use_doc_unwarping=False,
    use_textline_orientation=False,
    engine_config={
        "dtype": "float32",
    },
)

Transformers 백엔드를 사용하여 PaddleOCR 파이프라인을 초기화하는 예시

언급된 리소스

문서PaddleOCR documentation

GitHubPaddleOCR on GitHub

DemoPaddleOCR 3.5 Transformers demo on Spaces