특화된 소형 모델이 거대 모델을 압도하다: DharmaOCR 오픈소스 공개

실용적 조언

OCR 성능 개선을 위해 모델의 오답 데이터를 DPO 학습의 rejected 샘플로 활용해라.
추론 비용 절감이 필요하다면 성능 저하가 적은 AWQ 양자화 적용을 고려해라.

섹션별 상세

DharmaOCR 7B 모델이 0.925의 점수를 기록하며 GPT-5.4 및 Gemini 3.1 Pro와 같은 최신 거대 모델의 성능을 상회했다. 연구진은 3B와 7B 파라미터 규모의 SLM을 SFT와 DPO로 파인튜닝하여 특정 도메인에서의 효율성을 극대화했다. 이러한 결과는 범용 거대 모델보다 특정 태스크에 최적화된 소형 모델이 비용 대비 뛰어난 성과를 낼 수 있음을 입증한다.

DPO 학습 과정에서 모델 스스로 생성한 퇴행적 출력을 거부된 예시로 활용하여 실패율을 87.6% 절감했다. 모델의 자체 오류 데이터를 피드백 루프에 포함시킴으로써 별도의 외부 데이터 없이도 출력의 일관성을 확보했다. 이 기법은 OCR 과정에서 발생하는 반복적인 오인식 패턴을 교정하는 데 결정적인 역할을 수행했다.

AWQ 양자화 기술을 적용하여 성능 저하를 최소화하면서도 페이지당 추론 비용을 약 22% 낮췄다. 가중치 정밀도를 조정하여 하드웨어 자원 사용량을 줄임으로써 대규모 문서 처리 환경에서의 경제성을 확보했다. 실무 배포 시 성능과 비용 사이의 균형을 맞추기 위한 최적화 방법론으로 제시됐다.

용어 해설

소형 언어 모델(SLM): — 수십억 개의 파라미터를 가진 상대적으로 작은 규모의 언어 모델이다. 특정 도메인에 특화된 학습을 통해 거대 모델(LLM)보다 적은 비용으로 유사하거나 더 높은 성능을 낼 수 있어 효율적인 실무 적용이 가능하다.
직접 선호도 최적화(DPO): — 모델이 생성한 결과물 중 좋은 것과 나쁜 것을 직접 비교하여 학습시키는 강화학습 기법이다. 별도의 보상 모델 없이도 모델의 출력 품질을 인간의 선호도나 특정 기준에 맞게 정렬하여 오류율을 낮추는 데 기여한다.
활성화 가중치 양자화(AWQ Quantization): — 모델의 가중치를 정밀도가 낮은 데이터 형식으로 변환하여 메모리 사용량과 연산 비용을 줄이는 최적화 기술이다. 중요한 가중치를 보존하면서도 추론 비용을 획기적으로 절감할 수 있어 대규모 서비스 배포에 필수적이다.

언급된 도구

DharmaOCR추천링크

특화된 OCR 수행을 위한 소형 언어 모델

Google Document AI중립

문서 처리 및 OCR 서비스

언급된 리소스

GitHubDharma-AI Hugging Face

논문DharmaOCR Arxiv Paper