PaddleOCR 3.5, Hugging Face Transformers 백엔드 지원 시작

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

PaddleOCR 3.5는 Hugging Face Transformers를 새로운 추론 백엔드로 도입하여 OCR 및 문서 파싱 모델의 통합 유연성을 높였다. 개발자는 `engine="transformers"` 설정을 통해 기존 PaddlePaddle 기반 환경뿐만 아니라 PyTorch 및 Transformers 생태계에서도 모델을 실행할 수 있다. 이 업데이트는 RAG나 문서 AI 파이프라인 구축 시 모델 로딩과 배포 경험을 개선한다. 내부 테스트와 설정 옵션을 통해 하드웨어 환경에 최적화된 추론이 가능하다.

배경

Python, PyTorch, PaddleOCR 3.5, Transformers

대상 독자

RAG 및 Document AI 시스템을 구축하는 AI 엔지니어

의미 / 영향

OCR 및 문서 파싱 모델을 Transformers 생태계로 통합함으로써, 기존 PyTorch 기반의 RAG 파이프라인 구축이 한층 수월해질 것으로 예상된다.

섹션별 상세

PaddleOCR 3.5는 `transformers`를 추론 백엔드로 추가하여 Hugging Face 생태계와의 호환성을 강화했다. 개발자는 `engine="transformers"` 파라미터를 설정하여 기존 PaddleOCR 모델(PP-OCRv5 등)을 Transformers 환경에서 실행할 수 있다. 이로써 기존 PaddlePaddle 기반 환경 외에도 PyTorch 생태계 내에서 모델을 직접 활용할 수 있게 됐다.

`engine_config`를 통해 `dtype`, `device`, `attn_implementation` 등 백엔드별 세부 설정을 제어할 수 있다. 이는 모델 배포 환경에 맞춰 추론 성능을 최적화하는 데 유용하다. 개발자는 하드웨어 사양에 따라 최적의 설정을 적용하여 추론 효율을 높일 수 있다.

이 통합은 RAG 및 문서 AI 워크플로를 구축하는 개발자에게 이점을 제공한다. 문서 데이터 추출 단계에서 Transformers 기반 인프라를 활용함으로써 파이프라인 통합 마찰을 줄이고 개발 경험을 개선할 수 있다. 긴 문서나 복잡한 레이아웃을 처리하는 RAG 시스템에서 데이터 추출의 신뢰성을 높이는 데 기여한다.

성능 최적화가 최우선인 경우 기존 `paddle_static` 백엔드를 권장한다. 이번 업데이트는 백엔드 교체가 아닌 개발자에게 더 많은 선택지와 유연한 배포 옵션을 제공하는 데 목적이 있다. 프로젝트 요구사항에 따라 적절한 백엔드를 선택하여 모델을 배포할 수 있다.

코드 예제

bash

python -m pip install "paddleocr==3.5.0" "paddlex==3.5.2" "transformers>=5.4.0"

PaddleOCR 3.5와 관련 라이브러리 설치 명령어

python

pipeline = PaddleOCR(
    device="gpu:0",
    engine="transformers",
    use_doc_orientation_classify=False,
    use_doc_unwarping=False,
    use_textline_orientation=False,
    engine_config={
        "dtype": "float32",
    },
)

Transformers 백엔드를 사용하여 PaddleOCR 파이프라인을 초기화하는 예시

실무 Takeaway

`engine="transformers"` 설정을 통해 PaddleOCR 모델을 PyTorch 기반 환경에서 직접 실행할 수 있다.
`engine_config`를 활용하여 `bfloat16`, `sdpa` 등 하드웨어 최적화 옵션을 적용할 수 있다.
RAG 및 문서 AI 파이프라인에서 데이터 추출 단계의 통합 복잡도를 낮출 수 있다.

언급된 리소스

문서PaddleOCR documentation

GitHubPaddleOCR on GitHub

DemoPaddleOCR 3.5 Transformers demo on Spaces