호주 의료 문서 학습을 위한 합성 데이터셋 생성 파이프라인 및 샘플 공개

작성자가 직접 개발한 데이터셋과 파이프라인에 대해 구체적인 기술 사양과 한계점을 명확히 밝혀 신뢰를 얻고 있습니다.

• LayoutLMv3나 Donut 모델 학습 시 제공된 bboxes_json 컬럼을 활용하여 레이아웃 학습을 수행할 수 있다.
• 스캔 품질 계층별 데이터를 활용하여 모델이 노이즈가 심한 문서에서도 정보를 잘 추출하는지 벤치마킹할 수 있다.

합성 데이터(Synthetic Data)

— 실제 세계의 사건이나 현상에서 직접 수집된 것이 아니라 알고리즘이나 시뮬레이션을 통해 인위적으로 생성된 데이터이다. 개인정보 보호법 등으로 인해 실제 의료 데이터를 확보하기 어려운 환경에서 모델 학습을 위한 대안으로 사용되며, 레이아웃과 라벨을 정밀하게 제어할 수 있는 장점이 있다.

경계 상자 주석(Bbox Annotation)

— 이미지 내에서 특정 객체나 텍스트 필드의 위치를 사각형 좌표(x, y, 가로, 세로)로 정의하는 작업이다. 문서 이해 모델(VLM) 학습 시 텍스트의 내용뿐만 아니라 시각적 위치 정보를 함께 학습시켜 문서 구조 파악 능력을 높이는 데 필수적인 데이터이다.

시각-언어 모델(Vision-Language Model)

— 이미지의 시각적 정보와 텍스트의 언어적 정보를 동시에 처리하고 이해하는 AI 모델이다. LayoutLMv3와 같이 문서의 텍스트 내용뿐만 아니라 폰트 크기, 위치, 표 구조 등 시각적 레이아웃을 함께 분석하여 정보를 추출하는 데 특화되어 있다.

스캔 품질 저하(Scan Degradation)

— 깨끗한 디지털 문서를 실제 스캔, 복사 또는 팩스 전송 과정에서 발생하는 노이즈, 흐릿함, 왜곡 등을 인위적으로 적용하는 과정이다. 이를 통해 모델이 실제 병원 현장의 열악한 문서 환경에서도 강건하게 작동하도록 학습시킬 수 있다.