문서 인제스천 품질이 LLM 출력 품질을 결정하는 방식과 도구 비교

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

문서 기반 LLM 파이프라인에서 출력 품질 저하의 근본 원인은 모델보다 문서 인제스천 단계의 정보 손실에 있다고 본문은 진단했다. 단순 텍스트 파서는 표와 레이아웃을 평탄화해 수치 질의와 필드 추출을 망가뜨리고 OCR은 스캔 이미지를 텍스트로 바꾸지만 구조를 복원하지 못해 컨텍스트 오염을 유발하며 레이아웃 인지 도구는 테이블·읽기 순서·캡션을 보존하지만 비용이 증가한다. 따라서 문제 해결은 모델 재학습이나 프롬프트 반복 전에 추출 결과를 직접 검사하고 문서 유형별로 적절한 파서를 선택하는 엔지니어링 관행을 정착시키는 것이 핵심이며 비용·운영 측면의 트레이드오프가 존재한다.

실용적 조언

추출 파이프라인을 설계할 때 우선적으로 원시 추출 결과를 사람이 검토하거나 자동화된 검사로 확인해 표·이미지·헤더·풋터 손상을 찾아야 한다. 이 과정은 PDF 파서 결과와 시각적 문서 뷰를 대조하고 테이블의 셀 구조 보존 여부를 점검하며 OCR 잡음이 섞였는지를 확인하는 구체적 검사 항목으로 구성되어야 한다. 그렇게 하면 RAG나 요약 같은 downstream 태스크에서 나타나는 오류를 모델 탓으로 돌리기 전에 근본 원인을 고립할 수 있다.
도구 선택 시에는 처리 속도와 비용, 보존해야 할 구조적 정보의 종류를 기준으로 계층적 전략을 세워야 한다. 예컨대 다량의 단순 텍스트 문서에는 빠른 텍스트 파서를 우선 적용하고, 표나 도표가 많은 문서군에 대해서만 레이아웃 인지 도구를 적용하는 방식으로 비용을 통제할 수 있다. 또한 스캔 이미지에 대해서는 OCR 결과를 레이아웃 정보와 결합해 캡션·주석과 본문이 섞이지 않도록 후처리 규칙을 적용해야 한다.

섹션별 상세

원문은 LLM 응답 품질 저하의 근본 원인이 모델 자체가 아니라 문서 인제스천 단계의 정보 손실이라고 지적한다. 입력 문서에서 텍스트를 추출하는 과정은 PDF 파싱·OCR·레이아웃 해석 등 여러 처리 단계를 거치며 이들 각각이 표, 이미지, 머리말·바닥글 같은 구조적 요소를 손상시킬 수 있다. 그러한 손상은 모델에 잘못된 컨텍스트를 주입해 응답 오류로 이어지며, 따라서 문제 해결은 모델 교체보다 추출 파이프라인의 진단과 개선에서 시작되어야 한다.

본문은 구체적 실패 유형으로 표가 평문 블롭으로 변환되는 현상과 이미지·도표가 누락되거나 OCR 잡음으로 전환되는 사례를 들고 있다. 표가 셀 구조를 잃으면 수치 질의나 필드 추출 결과가 왜곡되고, 이미지에서 텍스트를 뽑을 때 레이아웃 정보가 사라지면 캡션과 본문이 섞이는 식의 문맥 오염이 발생한다. 이러한 현상은 downstream 요약·질답·필드 추출에서 반복적으로 나타나며 모델이 문제의 원인으로 오판되는 경향을 만든다.

도구별 트레이드오프가 명확하게 제시되어 있으며 원문은 PyMuPDF와 pdfplumber 같은 단순 텍스트 추출기는 속도와 비용에서 유리하지만 표와 레이아웃을 잃는다고 언급한다. 반면 Tesseract 같은 OCR은 스캔 이미지를 텍스트로 변환할 수 있으나 구조적 정보를 복원하지 못하며, LlamaParse나 unstructured 같은 레이아웃 인지 도구는 원본의 테이블·읽기 순서·캡션을 보존하지만 계산 비용이 증가한다고 기술되어 있다. 이 비교는 실제 파이프라인 설계에서 비용·정확도·운영 요구사항을 균형 있게 고려해야 한다는 결론으로 연결된다.

원문은 실무적 권장 행동으로 추출 결과를 직접 검사하라고 권하고 있으며 이 접근은 RAG나 요약, 필드 추출 등 모든 downstream 작업에 공통적으로 적용된다고 제시한다. 구체적으로는 추출한 원시 텍스트와 도큐먼트 뷰를 비교해 테이블 손실·헤더·풋터 혼입·이미지 누락 여부를 확인하는 과정을 권장하며, 이 검사를 통해 재프롬프트나 모델 교체 전에 문제의 근원을 고립할 수 있다고 주장한다. 따라서 문서 중심 파이프라인에서는 입력 검증과 모니터링이 모델 레이어만큼이나 필수적이라는 인식을 확산시키는 것이 중요하다.

용어 해설

검색 증강 생성(RAG): — 검색 증강 생성은 외부 문서나 데이터베이스에서 관련한 텍스트를 검색해 모델의 입력으로 주입한 뒤 그 컨텍스트를 바탕으로 응답을 생성하는 방식이다. 입력 단계에서 검색 결과의 품질과 정렬이 출력 정확성에 직접적인 영향을 미치기 때문에 검색·임베딩·페이징 전략이 전체 파이프라인 성능을 결정한다. 본문에서는 RAG 도중 잘못된 문서 추출이 검색 결과의 유효성을 떨어뜨려 결국 모델이 오답을 생성한다고 지적하고 있다.
광학 문자 인식(OCR): — OCR은 이미지 형태의 문서에서 글자를 인식해 기계가 읽을 수 있는 텍스트로 변환하는 기술이다. 스캔된 문서나 사진에서 텍스트를 얻을 때 유용하지만 레이아웃, 표, 머리말·바닥글 같은 구조 정보를 보존하지 못하면 downstream 처리에서 의미 손실이 발생한다. 본문은 OCR이 텍스트 추출에는 성공해도 구조 복원이 부족해 모델 입력을 오염시킨 사례를 설명하고 있다.
표 추출(Table Extraction): — 표 추출은 문서 내 표를 셀·열·행 구조로 복원해 기계가 쿼리하거나 계산할 수 있게 만드는 과정이다. 단순 텍스트 추출은 표를 평탄한 문자열로 변환해 수치적 질의를 왜곡하므로 표 구조를 보존하는 전처리가 중요하다. 본문은 표가 블롭으로 변환되면 수치 질의 응답이 잘못되는 전형적 실패 양상을 제시하고 있다.
레이아웃 인지 파싱(Layout-aware Parsing): — 레이아웃 인지 파싱은 문서의 시각적 배치(머리말·바닥글·열·표·이미지)를 인식해 읽기 순서와 구조를 보존하면서 텍스트를 추출하는 기법이다. 이 방식은 표와 다단 레이아웃, 캡션·주석을 올바른 문맥으로 연결해 downstream 태스크의 정확도를 높인다. 본문은 이러한 접근이 일반 텍스트 추출이나 단순 OCR보다 더 많은 계산 비용을 요구하지만 결과 품질이 우수하다고 설명하고 있다.

언급된 도구

PyMuPDF중립

PDF에서 텍스트를 빠르게 추출하는 경량 파서로 속도와 비용 효율성이 장점이다.

pdfplumber중립

PDF 내 텍스트와 간단한 레이아웃을 추출하는 도구로 기본적인 파싱에 적합하다.

Tesseract중립

스캔된 이미지에서 텍스트를 추출하는 OCR 엔진으로 이미지 기반 문서 복원에 사용된다.

LlamaParse추천

문서의 레이아웃과 표 구조를 보존하면서 추출하는 레이아웃 인지형 파서로 복잡한 문서에 적합하다.

unstructured추천

다양한 문서 포맷에서 구조적 요소를 인식해 읽기 순서와 표를 보존하려는 도구군이다.

Docling추천

로컬 환경에서 레이아웃 보존 추출을 수행할 수 있는 도구로 프라이버시 제약이 있는 워크로드에 적합하다.